OpenAI начнёт добавлять невидимую водяную метку к тексту, который создают ChatGPT и Codex, в Европейском союзе, чтобы соблюсти требования закона ЕС об ИИ. Об этом компания сообщила в понедельник в блоге.
Правила прозрачности в EU AI Act вступили в силу 2 августа. Они требуют, чтобы компании помечали контент, созданный ИИ, так, чтобы его могли распознать другие системы.
Метка появится в ближайшие недели у подходящих пользователей ChatGPT и Codex на всех тарифах, но только в ЕС. Разработчики, которые используют API OpenAI в любой стране, смогут включить её для отдельных моделей уже сегодня. По умолчанию функция выключена, а глобальным стандартом для текста она пока не станет.
Речь идёт не о видимом символе. Метка меняет выбор слов на уровне модели так, чтобы в тексте оставался скрытый для читателя, но заметный для детектора рисунок. Поскольку он встроен в сами слова, он сохраняется при копировании и вставке. OpenAI заявила, что метка не позволяет определить пользователя, а заметного влияния на работу моделей при включении функции компания не увидела.
Одновременно OpenAI опубликовала технический отчёт о своём методе под названием textGrain. Его подготовили совместно с исследователями из Университета Пенсильвании и Йеля. В отчёте описан пример, где для завершения предложения используется секретный ключ, который сортирует варианты следующего слова. Если таких изменений набрать сотни, детектор сможет распознать ИИ-контент только по тексту и ключу.
Компания проверила, можно ли убрать метку через правки. В одном тесте замена 10% слов синонимами снизила точность распознавания примерно с 92% до 66%. OpenAI также отметила, что короткие фрагменты, математические ответы и переведённый текст распознать труднее.
«Эти ограничения стали одной из причин, по которой мы решили сначала дать доступ к детектору только одобренным исследователям и экспертным организациям, которые помогут нам оценить надёжность и корректное применение», — заявили в компании.
OpenAI также предупредила, что отсутствие метки «не доказывает, что текст написал человек». Фрагмент может быть слишком коротким, слишком сильно отредактированным или созданным другой ИИ-системой.
«[Водяные метки] могут показать, что система OpenAI создала или обработала часть текста, но не то, сколько в него вложили человеческого суждения, редактуры или творчества», — добавили в компании.
Анонс последовал через два месяца после того, как Anthropic сообщила о планах ставить водяные метки на текст, созданный Claude, и распространять это правило по всему миру. Решение вызвало критику части пользователей Claude, которые говорили, что они дали «инструкции, контекст, решения», а Claude был лишь «инструментом».
По данным The Wall Street Journal, OpenAI уже создавала текстовую метку раньше, но не стала запускать её из-за опасений, что пользователи перейдут к конкурентам без такой функции.
Anthropic, Google, Meta, Microsoft и OpenAI входят в число компаний, которые обязались соблюдать кодекс практики ЕС по контенту, созданному ИИ.
Источник: OpenAI, The Wall Street Journal.
*Организация Meta (владелец Facebook и Instagram) признана экстремистской организацией и ее деятельность запрещена на территории России.