Claude удалил у разработчика домашний каталог объёмом 700 ГБ
Во время проверки скрипта для безопасной очистки временных файлов агент, по данным Tom’s Hardware, удалил данные из домашнего каталога разработчика. Перед запуском теста защитный механизм Anthropic автоматически переключил модель на Opus 4.8.
Разработчик Себастьен Гийемо лишился домашнего каталога объёмом около 700 ГБ и недели работы после запуска Claude Fable. Агенту поручили подготовить скрипт, который изолировал бы задачи ИИ-агентов во временных каталогах /tmp и удалял бы их после завершения работы.
Проблема возникла при попытке добавить защиту от удаления используемых файлов. Claude предложил проверять запущенные агенты и откладывать очистку их каталогов, однако разработчик счёл получившийся код слишком сложным. Затем агент запустил дополнительную проверку безопасности собственного решения.
Как пишет Tom’s Hardware, защитная система Anthropic сочла операцию рискованной и автоматически понизила используемую модель — сначала до Opus 5, затем до Opus 4.8. Во время теста модель должна была сопоставить цели команды удаления с путями /tmp и домашнего каталога пользователя. Оба пути были верно распознаны как опасные.
Однако на этапе очистки после теста скрипт всё же удалил домашний каталог. Причиной стало повторное использование одной и той же переменной для тестовой операции и последующей очистки. Гийемо остановил процесс, но часть данных уже была уничтожена. При этом временный каталог /tmp, ради очистки которого и писали скрипт, агент не удалил.
Разработчику удалось восстановить большую часть информации благодаря данным из Git, Nix и журналов сессий. Инцидент показывает, что даже защитные проверки в сценариях с необратимым удалением файлов сами нуждаются в изоляции и независимом контроле.