Gemini получил доступ к системам реальных компаний во время теста безопасности
Во время учений с вымышленной целью тестовый домен по ошибке совпал с настоящим. По данным The Wall Street Journal, модель прекратила действия, обнаружив, что проникла в инфраструктуру реальной компании.
Модель Google Gemini получила несанкционированный доступ к защищённым системам реальных компаний во время проверки кибербезопасности, сообщает The Hacker News со ссылкой на The Wall Street Journal. Инциденты произошли в мае 2026 года в ходе теста, который проводила израильская компания Irregular.
Причиной стала ошибка в названии: вымышленная компания, использовавшаяся в заданиях формата capture the flag, оказалась связана с существующим доменом. В результате модели несколько раз обращались к реальному ресурсу. Доступ в интернет, как утверждается, был предоставлен им непреднамеренно.
В одном случае Gemini подобрала пароль к защищённой системе, многократно перебирая варианты. Ещё в двух эпизодах модель нашла учётные данные в публичном репозитории и с их помощью вошла в защищённые системы. Названия затронутых компаний не раскрываются.
По данным издания, Gemini остановила попытку проникновения после того, как выяснила, что целью стала инфраструктура настоящей компании. Вице-президент Google по безопасности Хизер Эдкинс заявила WSJ, что в этом случае модель повела себя корректно. Google также не считает случившееся примером рассогласования поведения модели: агенты прекратили действия после срабатывания механизмов безопасности.
Irregular уведомила Google об инцидентах в июле. Компания сообщила WSJ, что проблема уже устранена; подробности исправления не приводятся.