Anthropic сообщила о попытках использовать Claude в исследованиях опасных вирусов и токсинов
По данным компании, с ноября 2025 года по сентябрь 2026-го она выявила пять особенно тревожных случаев возможного злоупотребления ИИ в биологических исследованиях. Пользователи скрывали происхождение аккаунтов и обходили региональные ограничения.
Anthropic заявила, что пресекла несколько попыток использовать Claude для работ, которые могли быть связаны с созданием биологического оружия. В отчёте компании, охватывающем период с ноября 2025 года по сентябрь 2026-го, выделены пять таких эпизодов: три касались вирусов, ещё два — токсинов.
Во всех случаях пользователи в той или иной степени применяли средства анонимизации и пытались обойти региональные ограничения. В разных эпизодах использовались случайно сгенерированные имена и адреса электронной почты, частные почтовые сервисы, VPS, американская инфраструктура для перенаправления трафика и серые посредники. Anthropic связывает часть активности с регионами, где доступ к Claude не поддерживается, а в одном из эпизодов — с программой, которую компания сочла поддерживаемой государством.
В одном случае сервис запрашивали для подготовки заявки на грант по работе с вирусом чикунгунья. По данным Anthropic, исследователи интересовались способами повысить изменчивость и вирулентность вируса. Компания выяснила, что заявленная гражданская работа должна была вестись на военном объекте, после чего заблокировала аккаунты и передала сведения государственным органам. Как сообщает Tom’s Hardware, затем те же пользователи вновь пытались обратиться к Claude через сервисы, не сохраняющие данные клиентов.
Другие запросы касались адаптации птичьего гриппа к млекопитающим и ортопоксвирусов, к которым относятся, в частности, натуральная оспа и mpox. В случае с ортопоксвирусами авторы предполагаемой грантовой заявки обсуждали работу в изолированных лабораториях и эксперименты с живыми вирусами, уделяя внимание генетическим механизмам уклонения от иммунного ответа.
Два оставшихся эпизода были связаны с токсинами. В одном пользователь анализировал токсичные пептиды из ядов разных животных и разрабатывал программу для оптимизации их токсических свойств, заявляя о разработке терапевтических молекул. В другом Claude пытались привлечь к переработке токсинов, включая субъединицу бактериального токсина и белок вируса геморрагической лихорадки. По версии Anthropic, автор последнего запроса намеренно просил давать расплывчатые описания предмета исследования.
Компания отмечает, что отличить опасное биологическое исследование от легитимной работы — например, над вакцинами или моделированием распространения вирусов — непросто. Поэтому новые модели Claude были выпущены с более строгими защитными механизмами. Названия государств, с которыми Anthropic связывает описанные попытки, в пересказе отчёта не приводятся.