Anthropic начала использовать маркировку текста, созданного новыми моделями Claude: отметка сохраняется при копировании и вставке и может выжить после определенного редактирования
Искусственный интеллект023 минуты назад
Anthropic внедрила в новые модели Claude «невидимый водяной знак», который не влияет на смысл или читаемость текста, но остается связанным с ним при копировании и вставке. По информации компании, отметка может сохраняться после некоторых видов редактирования.
Модели Claude, запущенные 2 августа и позже, поддерживают маркировку с момента своего выхода, Anthropic также работает над ее интеграцией в более ранние модели. Маркировка охватывает весь текст, генерируемый Claude, включая взаимодействие через облачных провайдеров.
Anthropic планирует предоставить сторонним организациям инструменты для обнаружения таких отметок. Компания связывает внедрение этой технологии с обязательствами по обеспечению прозрачности в соответствии с законом Европейского союза об искусственном интеллекте (EU AI Act).
Для издателей, учебных заведений и университетов такая маркировка может стать дополнительным инструментом для проверки текстов на использование ИИ. В издательской области уже имели место случаи, когда авторов подозревали в применении генеративных моделей. В июле литературный агент отказался от поддержки романа "Call Me, I'll Hide the Body" после вопросов о возможном использовании ИИ, ранее издательство Hachette отменило публикацию хоррор-романа "Shy Girl" на фоне аналогичных обвинений. В обоих случаях авторы опровергли самостоятельное использование ИИ для написания текста.
Тем не менее, водяной знак не позволит однозначно установить происхождение текста. Anthropic признает, что значительное редактирование, перефразирование, перевод или смешивание вывода Claude с другим текстом могут сделать отметку незаметной. Кроме того, обнаруженный водяной знак не доказывает, что Claude полностью написал исходный текст: он может появиться даже после использования модели только для корректуры или перевода.
Anthropic стала второй крупной ИИ-компанией, внедрившей такую технологию после Google DeepMind, которая в 2024 году объявила о маркировке текста и видео из Gemini с помощью системы SynthID.
Darth SaharaИсточники:Business InsiderAnthropicИзображениеИскусственный интеллект0Искусственный интеллектAnthropicGoogle DeepMindClaudeАвторствоEU AI Act23 минуты назад
Источник