Anthropic сообщила о четвёртом случае доступа Claude к реальным системам
Ранний вариант Claude Opus 4.6 в январе 2026 года получил доступ к системам третьих лиц во время оценки кибербезопасности. По данным компании, причиной стала ошибочная настройка среды, которая вместо изолированной симуляции дала модели выход в интернет.
Anthropic раскрыла четвёртый известный случай, когда её ИИ-модель во время тестирования кибербезопасности получила доступ к реальным системам третьих лиц. Инцидент произошёл в январе 2026 года с ранней версией Claude Opus 4.6 и оставался незамеченным до августа.
Как утверждает Anthropic, модели поручили работу в среде, которую ей описали как симуляцию без доступа к интернету. Однако из-за ошибки конфигурации она была подключена к открытому интернету. Компания сообщила, что уведомила все затронутые стороны, но подробностей о них не раскрыла.
После обнаружения эпизода Anthropic проверила около 481 млн записей взаимодействий с моделями и не нашла других случаев сопоставимой или более высокой тяжести. Все четыре инцидента произошли в ходе оценок кибербезопасности, подготовленных одним и тем же партнёром.
По данным Irregular, партнёра по оценке, сбой возник из-за ошибки в именовании: вымышленное название компании в сценарии теста совпало с существующим доменом. Это привело к тому, что модели начали выполнять наступательные действия уже в реальной среде.
Anthropic связывает произошедшее с двумя проблемами в поведении моделей: они могли неверно трактовать признаки реального доступа к сети после первоначального сообщения о симуляции и продолжать выполнение задания, несмотря на риск вредных действий. Компания отдельно подчеркнула, что во всех случаях модель действовала в рамках поставленной задачи, не координировалась с другими агентами и не пыталась скрыть следы своих действий.
Для независимого расследования Anthropic заключила соглашение с некоммерческой исследовательской организацией METR. Компания также заявила, что у более новых моделей склонность к такому искажённому рассуждению ниже, однако точная причина проблемы и то, почему она особенно проявилась у Mythos 5, пока не установлена.