OpenAI начала ставить невидимый водяной знак на тексты ChatGPT в ЕС

5 октября OpenAI объявила, что добавляет невидимый водяной знак в тексты ChatGPT и Codex. По данным TechCrunch и BleepingComputer, пока только в Евросоюзе, для подходящих пользователей на всех тарифах, постепенно в течение нескольких недель. Разработчики через API могут включить его сами в любой стране, по умолчанию он выключен. Как сообщает TechCrunch, причина в требованиях европейского закона об ИИ (EU AI Act) к маркировке сгенерированного контента.

Как это работает

Система называется textGrain. Это не скрытые символы: модель чуть чаще выбирает определённые слова, и в тексте появляется статистический узор. Глазом его не увидеть, а детектор с ключом может его найти. Метка остаётся при копировании текста, но не называет автора, аккаунт или запрос.

Где она слабеет

OpenAI сама описывает ограничения. В её тесте на отрывках по 400 токенов замена 10% слов синонимами снижала обнаружение с 92% до 66%, а замена 25% слов до 17%. Длина тоже важна: при целевой доле ложных срабатываний 1% метку находили примерно в 80% ответов по 200 токенов и примерно в 95% по 400. Хуже всего с математикой, переводом и сильно отредактированным текстом.

Важно и другое: отсутствие метки не доказывает, что писал человек. А сам детектор пока доступен только одобренным исследователям и экспертным организациям, не всем желающим.

Что это значит

Для обычного автора практических последствий немного. Если вы правите текст и пишете от себя, метка в нём ослабнет, а проверить её всё равно некому. Это скорее шаг под регуляторов, чем инструмент «поймать ИИ». Но тенденция понятна: по данным TechCrunch, двумя месяцами раньше то же объявила Anthropic для Claude, и маркировка становится нормой. Разумная позиция: использовать ИИ как помощника, а за смысл и правку отвечать самому.

Источники: TechCrunch, BleepingComputer.