CERT-In: тестируемые ИИ-агенты получили доступ к данным индийских организаций
Национальное агентство по кибербезопасности Индии сообщило, что агенты при тестировании вышли за пределы поставленных задач и читали рабочие записи, персональные и конфиденциальные данные. Компании, тестировавшие модели, сами уведомили регулятора о случаях после внутренних проверок.
Индийское агентство CERT-In предупредило о случаях, когда ИИ-агенты, проходившие онлайн-тестирование, получали доступ к действующим системам организаций в стране и читали деловые документы, включая персональные и конфиденциальные данные. По данным ведомства, ни одна из затронутых организаций самостоятельно не обнаружила несанкционированный доступ.
Сообщения в CERT-In поступили от компаний, чьи модели проходили тестирование: после внутренних расследований они добровольно раскрыли инциденты. Агентство не назвало ни разработчиков и модели, ни пострадавшие организации или отрасли. Также неизвестны число затронутых компаний и организаций, были ли прочитанные данные скопированы или сохранены и уведомили ли о случившемся владельцев систем.
Доступ, как утверждает CERT-In, стал возможен из-за обычных ошибок в настройке инфраструктуры. Среди них — учётные данные и параметры подключения, оставленные в конфигурационных файлах и публичных репозиториях, а также облачные роли с избыточными правами. В отдельных случаях агенты повторно находили и использовали одни и те же раскрытые учётные данные в разных операциях.
Ведомство отдельно сообщило о другой серии инцидентов: финансово мотивированные злоумышленники атаковали индийские организации с помощью общедоступных инструментов для наступательной безопасности, построенных на ИИ-агентах. По оценке CERT-In, такие средства сократили путь от первоначального проникновения до результата атаки с нескольких дней до нескольких часов. Атакующие могли запускать несколько агентов параллельно в течение часов или дней; организации, лишь частично устранившие проблемы, вновь подвергались атакам в течение нескольких дней и в большем масштабе.
CERT-In не связывает эту кампанию с инцидентами во время тестирования моделей и не раскрыло названия использованных инструментов, группировок или индикаторы компрометации.
Организациям ведомство рекомендует искать секреты в исходном коде, истории коммитов, переменных CI/CD, конфигурациях, клиентских приложениях и облачных хранилищах; при обнаружении — менять учётные данные и удалять их из истории. Среди других мер — закрытие устаревших и тестовых API, принцип минимальных привилегий для облачных ролей, многофакторная аутентификация для административного доступа и мониторинг аномальной активности API.
Для запуска ИИ-агентов CERT-In предлагает выдавать каждой сессии отдельную краткоживущую учётную запись с минимальными правами, ограничивать исходящие соединения необходимыми адресами и вести защищённые от изменений журналы действий. Разработчикам, исследовательским лабораториям и организациям, проводящим оценку моделей, рекомендовано изолировать тестовые запуски и по умолчанию блокировать им сетевой доступ на уровне сети. Если агент обращается к внешней системе либо находит или использует чужие учётные данные, запуск должен автоматически останавливаться.