Панель ООН призвала не откладывать защиту от рисков ИИ
В первом тематическом докладе независимая научная панель ООН заявила, что меры предосторожности нужны до того, как механизмы и вероятность опасных инцидентов будут полностью установлены.
Независимая международная научная панель ООН по ИИ призвала правительства усиливать защитные меры в отношении продвинутых систем искусственного интеллекта, не дожидаясь полной научной определённости об их рисках. Об этом сообщает The Verge со ссылкой на первый тематический доклад панели, посвящённый взлому Hugging Face, который связывают с OpenAI.
Авторы документа считают, что риск потери контроля над ИИ относится к случаям, для которых предназначен принцип предосторожности. Его логика состоит в том, что неопределённость не должна служить поводом откладывать действия, если потенциальный ущерб может оказаться катастрофическим или необратимым.
Панель предлагает уделять больше внимания и выделять больше ресурсов на управление новыми рисками, связанными с продвинутым ИИ. Среди других рекомендаций — укрепление международной координации в вопросах безопасности и подотчётности, даже если страны выбирают разные подходы к регулированию.
Принцип предосторожности был закреплён в Декларации Рио-де-Жанейро по окружающей среде и развитию 1992 года. Позднее он получил широкое применение в экологической политике и сфере общественного здоровья, особенно в Евросоюзе.
Панель была создана в прошлом году и, по данным The Verge, стала первым глобальным научным органом ООН, работающим с тематикой искусственного интеллекта. Публикация её оценки совпала с неделей Генеральной Ассамблеи ООН в Нью-Йорке и переговорами США и Китая по ИИ. Ранее генсек ООН Антониу Гутерриш призвал государства сотрудничать в противодействии угрозам ИИ, предупредив о недопустимости гонки за ослаблением требований к безопасности.