ChatGPT в ближайшее время начнет помечать сгенерированные и обработанные тексты невидимыми водяными знаками для пользователей в Европейском союзе (ЕС), передает пресс-служба OpenAI.
«В ближайшие недели мы добавим невидимый водяной знак к текстовым сообщениям, выводимым через ChatGPT и Codex в Европейском союзе», — говорится в распространенном заявлении.
Сам детектор текстовых водяных знаков пока не станет общедоступным. Доступ сначала получат одобренные исследователи и экспертные организации. По плану компании, эти клиенты помогут протестировать и усовершенствовать новую технологию.
TextGrain будет встраивать водяной знак за счет того, какие слова ИИ-модель выбирает при генерации. Если она пишет достаточно длинный текст, отмечает OpenAI, возникнет закономерность, которая позволит установить, что он создан при помощи ИИ, однако при этом не будет заметна человеку. Детектор OpenAI анализирует множество таких выборов и ищет характерный сигнал.
Уточняется, что технология пока не дает стопроцентной точности: для текстов длиной 200 токенов водяной знак обнаруживается примерно в 80% случаев, а для 400 токенов — примерно в 95% при целевом уровне ложных срабатываний 1%.
Фото: Валентин Илюшин/Онлайн47
