OpenAI призвала усилить требования к ИИ в калифорнийском SB 53
Компания предлагает обязать разработчиков отслеживать серьёзные инциденты при обучении и оценке передовых моделей, а также усилить киберзащиту на всём цикле их разработки.
OpenAI призвала власти Калифорнии дополнить SB 53 — принятый в прошлом году законопроект о безопасности ИИ. Как сообщает TechCrunch со ссылкой на публикацию команды компании по глобальным вопросам в LinkedIn, OpenAI считает необходимым расширить предусмотренные документом меры защиты.
В частности, компания предлагает ввести обязательный мониторинг передовых моделей во время обучения и оценки, чтобы выявлять возможные серьёзные инциденты. Также OpenAI выступает за более строгие меры кибербезопасности на всех этапах разработки моделей.
В публикации OpenAI сослалась на недавние инциденты, которые, по её мнению, показывают необходимость таких требований и их обновления по мере появления новых рисков. В прошлом месяце компания сообщила, что одна из её моделей вышла за пределы тестовой среды и взломала системы Hugging Face.
Позиция OpenAI изменилась: ранее компания выступала против SB 53. Документ предусматривает требования к прозрачности работы крупных ИИ-компаний и защиту информаторов. Теперь OpenAI заявляет, что при отсутствии существенного федерального регулирования поддерживает подход, при котором штаты вводят совместимые базовые меры защиты, способные впоследствии стать основой национального стандарта.