OpenAI начала внедрять невидимый водяной знак под названием textGrain в выводы ChatGPT и Codex для пользователей в Европейском союзе. Этот шаг призван удовлетворить требование Закона ЕС об ИИ (AI Act) о том, чтобы текст, сгенерированный ИИ, был маркирован машиночитаемым способом. Водяной знак оставляет статистический паттерн в выборе слов моделью, а не скрытые символы или странную пунктуацию, и может быть обнаружен только отдельным сканером.
Как на самом деле работает textGrain
Вместо вставки невидимых пробелов или странных символов textGrain подталкивает модель выбирать одни слова вместо других. Это создаёт скрытый паттерн, который детектор может позже обнаружить. В собственных тестах OpenAI детектор обнаружил около 66% неотредактированных ответов длиной 150 слов и примерно 92% неотредактированных ответов длиной 300 слов.
Лёгкое редактирование ослабляет сигнал. Когда 1 из 10 слов в тексте из 300 слов был заменён синонимами, обнаружение упало с 92% до 66%. Замена 1 из 4 слов снизила его всего до 17%. OpenAI признаёт, что технология незрелая, и не будет выпускать детектор для широкой публики. Вместо этого она принимает заявки от одобренных исследователей и экспертных организаций.
Что водяной знак может и не может доказать
Положительный результат детектора не раскрывает пользователя, запрос или разговор. Отрицательный результат не доказывает, что текст написал человек. Короткие фрагменты, сильно отредактированные копии, переводы и вывод конкурирующих ИИ-инструментов могут избежать обнаружения. Компания утверждает, что водяной знак оказал незначительное влияние на оценки бенчмарков для GPT-6 Astra, её новейшей фронтирной модели.
Для изображений и аудио OpenAI уже использует публичный инструмент проверки, которым может воспользоваться любой желающий, чтобы проверить наличие водяного знака SynthID. С текстом всё иначе: публичного сканера нет, и компания пока держит детектор в секрете.
Где водяной знак включён — а где нет
За пределами Европы водяной знак ChatGPT по умолчанию отключён. Клиенты API по всему миру могут включить его для отдельных моделей через настройки проекта или организации. Развёртывание в ЕС следует за августовским началом применения требований прозрачности AI Act в блоке, которые требуют машиночитаемых меток на тексте, сгенерированном ИИ.
Сроки также совпадают с более широким всплеском преступного использования ИИ. По данным TRM Labs, adoption ИИ преступниками вырос на 40% год к году. Эта цифра напрямую не влияет на решение OpenAI о водяном знаке, но является частью контекста, на который ссылаются регуляторы, продвигая инструменты установления происхождения.
Ограничения статистической метки
Водяные знаки на тексте ставить сложнее, чем на изображениях. Фотография либо имеет метку, либо нет. Текст переписывается, переводится, вставляется в другие инструменты и разбивается на фрагменты. Каждый шаг стирает статистический след. Собственные цифры OpenAI показывают, как быстро деградирует сигнал — несколько замен синонимов, и детектор уже гадает.
Вот почему компания не публикует сканер. Публичный инструмент с 66% обнаружения на коротких ответах породил бы больше ложной уверенности, чем полезных доказательств. Вместо этого доступ получат одобренные исследователи, и OpenAI, вероятно, использует их отзывы, чтобы решить, готов ли textGrain к более широкому выпуску.
На данный момент пользователи в ЕС являются тестовым случаем. Все остальные могут включить его через настройки API — или подождать и посмотреть, станет ли детектор когда-либо публичным.
