Anthropic добавляет водяные знаки в тексты Claude

Anthropic начала внедрять систему скрытой маркировки текста, который генерирует ее ИИ-ассистент Claude. Компания объясняет решение требованиями европейского законодательства, которое обязывает разработчиков ИИ делать созданный нейросетями контент идентифицируемым.

Водяной знак не будет виден обычному читателю, Claude сможет создавать определенные закономерности при выборе слов, которые выглядят естественно, но могут быть обнаружены специальной системой. Anthropic обещает, что на качество текста это не повлияет.

Для маркировки компания использует технологию SynthID-Text, разработанную Google DeepMind, и планирует выпустить API для обнаружения таких водяных знаков.

Можно ли удалить маркировку?

Полностью переписанный текст, скорее всего, потеряет исходный водяной знак, но обычная корректура или небольшое редактирование, по словам Anthropic, вероятно, его не удалят.

С кодом ситуация сложнее, ведь возможностей для маркировки меньше, поскольку рабочий код не оставляет модели такой свободы выбора. При этом водяные знаки могут появляться, например, в комментариях.

Anthropic также отмечает, что Claude не станет единственным ИИ с подобной системой. Другие крупные разработчики, подписавшие европейский Кодекс практики, также планируют внедрять собственные технологии маркировки.

Получается новая форма цифрового следа, теперь текст может выглядеть полностью человеческим, но при этом иметь скрытую отметку о своем происхождении.