Anthropic раскрыла детали водяных знаков в ответах Claude
Компания намерена применять подход SynthID-Text и выпустить API для проверки меток. Лёгкая правка текста, по её оценке, обычно не должна полностью удалять водяной знак.
Anthropic рассказала, как будет маркировать текст, сгенерированный чат-ботом Claude. По данным TechCrunch, компания планирует использовать подход SynthID-Text, описанный командой Google DeepMind в 2024 году, а также выпустить API для обнаружения водяных знаков.
Метка будет формироваться за счёт выбора между равнозначными вариантами слов и формулировок — например, при описании погоды. Как утверждает Anthropic, читатель не сможет отличить такой ответ от немаркированного, но проверить наличие метки сможет тот, у кого есть соответствующий ключ.
Компания заявляет, что водяные знаки не ухудшат качество ответов Claude. При этом переписывание текста способно их удалить: лёгкая редактура, по оценке Anthropic, скорее всего, не уберёт метку целиком, тогда как полная переработка с заменой всех слов — уберёт. В последнем случае компания ставит под вопрос, можно ли вообще считать результат текстом, созданным ИИ.
Если Claude лишь вычитывал или редактировал человеческий текст, вероятность обнаружения метки будет зависеть от объёма и глубины правок. При незначительном вмешательстве почти весь текст остаётся написанным человеком, поэтому метке практически не к чему привязываться.
В программном коде водяной знак должен быть слабее: модель ограничена требованием создавать работающий код и не всегда может выбирать между равноценными формулировками. Водяной знак может использоваться там, где выбор произволен, например в комментариях, но на сам код он, по словам Anthropic, окажет пренебрежимо малое влияние.
Как пишет TechCrunch, Anthropic ранее объявила о введении маркировки для соблюдения Кодекса практики прозрачности Закона ЕС об ИИ. По заявлению компании, тот же кодекс подписали и другие крупные разработчики моделей, которые будут внедрять собственные системы водяных знаков.