FT: OpenAI расформировала команду по оценке рисков ИИ
По данным Financial Times, её задачи распределили между уже существующими командами, отвечающими за отдельные направления, включая биобезопасность и кибербезопасность.
OpenAI в конце прошлого месяца расформировала preparedness team — команду, которая оценивала, могут ли модели компании создавать серьёзные риски, и разрабатывала меры по их снижению. Об этом сообщила Financial Times; на публикацию обратила внимание The Verge.
Как пишет FT, обязанности команды не отменили, а разделили по профильным направлениям и передали существующим подразделениям. В частности, речь идёт о рисках в области биобезопасности и кибербезопасности.
Руководитель команды Дилан Скандинаво, пришедший в OpenAI из Anthropic в феврале, теперь будет заниматься последствиями рекурсивно самосовершенствующегося ИИ. The Verge связывает реорганизацию с более широкими изменениями в подходе OpenAI к управлению рисками: ранее компания уже распустила команды AGI readiness и superalignment.
Из OpenAI недавно также ушли руководитель направления этики Хлоя Бакалар, главный футуролог Джош Ачиам и глава направления безопасности Йоханнес Хайдекке. Бывший сотрудник компании Ян Лейке, покинувший её в 2024 году, заявил FT, что OpenAI пренебрегает безопасностью ради выпуска «блестящих продуктов».