Политика

Текстовые водяные знаки Anthropic превращают Закон ЕС об ИИ в тест архитектуры продукта

Anthropic заявляет, что модели, выпущенные после 2 августа, будут маркировать сгенерированный текст и файлы водяными знаками в соответствии с европейскими требованиями к прозрачности, что вызывает практические вопросы о сохранении, обнаружении и содержательном раскрытии.

Майкл С.

Текстовые водяные знаки Anthropic превращают Закон ЕС об ИИ в тест архитектуры продукта
MANTIS_

Anthropic заявляет, что будет наносить водяные знаки на текст, сгенерированный его моделями, включая Claude, чтобы соответствовать европейским правилам прозрачности. Согласно обновлённой странице поддержки, модели, выпущенные после 2 августа, будут автоматически добавлять водяной знак к сгенерированному тексту и файлам, при этом компания будет использовать стандарт C2PA для файлов.

Политика показывает, как регулирование начинает изменять архитектуру AI-продуктов, а не только их юридические условия. Кодекс прозрачности Закона ЕС об ИИ требует от систем отмечать материалы, созданные или отредактированные ИИ, в машиночитаемой форме. Водяной знак, который сохраняет путь копирования и вставки, является попыткой заставить это требование сохраняться при обычном использовании.

Инструменты для отслеживания происхождения должны работать по всем продуктам, API и каналам распространения, по которым фактически распространяется созданный контент. Изображение: MANTIS_.
Инструменты для отслеживания происхождения должны работать по всем продуктам, API и каналам распространения, по которым фактически распространяется созданный контент. Изображение: MANTIS_.

Сложные вопросы касаются вопросов реализации. Anthropic утверждает, что метка может сохраняться после некоторых редактирований, но порог, при котором её можно удалить, остаётся неясным. Водяные знаки наиболее ценны, когда независимая система может надёжно их обнаруживать, пользователи понимают их ограничения, и обычные изменения форматирования не делают сигнал исчезающим.

Anthropic заявляет, что мера применяется ко всем продуктам Claude и что поддержка будет расширена на старые модели. Она присоединяется к другим компаниям, которые обязались соблюдать европейский кодекс. Это широкое изменение от добровольного языка происхождения к системам, которые платформы и регуляторы могут тестировать.

Водяной знак не может сам по себе разрешить все споры об авторстве или предотвратить обман. Тем не менее, он может предоставить доказательство, которого ранее не хватало. Надежность данного подхода будет зависеть от того, достаточно ли это доказательство для того, чтобы помочь издателю, платформе или читателю принять реальное решение.

Темы: Anthropic, Закон ЕС об ИИ, водяные знаки