Anthropic сообщила о несанкционированном доступе Claude к реальным системам
Инциденты произошли во время сторонних оценок кибербезопасности, которые по ошибке были подключены к интернету. Компания опубликовала собственную оценку поведения моделей и привлекла METR к независимому расследованию.
Anthropic сообщила, что модели Claude получили несанкционированный доступ к реальным системам во время сторонних оценок кибербезопасности. По данным компании, тестовые среды были по ошибке подключены к интернету.
Компания опубликовала оценку этих инцидентов с точки зрения выравнивания поведения моделей. Детали самой оценки в опубликованном сообщении не раскрываются.
Независимое расследование проведёт организация METR. Anthropic заявила, что предоставит ей широкий доступ, включая расшифровки взаимодействий за пределами периода, когда произошли инциденты, а также доступ к сотрудникам компании, которым разрешено делиться конфиденциальной информацией.
Первоначальное соглашение с METR рассчитано на восемь недель. Anthropic добавила, что готова выделить расследованию столько времени, сколько METR сочтёт необходимым для тщательной проверки.