OpenAI впроваджує водяні знаки для тексту через вимоги ЄС

Автор ·

OpenAI анонсувала впровадження невидимих водяних знаків для текстів, згенерованих ChatGPT та Codex. Ця технологія, названа textGrain, допоможе ідентифікувати контент, створений користувачами з ЄС, відповідно до вимог Закону ЄС про штучний інтелект.

Згідно з інформацією в блозі OpenAI, нова система працює, додаючи невидимий статистичний сигнал під час вибору слів. Для його виявлення розроблено спеціальний детектор, доступ до якого спочатку отримають лише затверджені дослідники. У майбутньому планується випустити технологію з відкритим вихідним кодом.

Впровадження водяних знаків

  • Водяні знаки автоматично додаватимуться до відповідей ChatGPT та Codex для користувачів у ЄС.
  • Для розробників, які використовують API OpenAI, функція буде доступна за бажанням.

OpenAI запевняє, що водяні знаки не впливають на якість відповідей і продуктивність моделей. Проте існують технічні обмеження: виявлення коротких та вузькоспеціалізованих текстів є складнішим через обмежений вибір синонімів. Також ручне редагування значно знижує ефективність виявлення: заміна 25% слів знижує рівень виявлення з 92% до 17%.

Компанія підкреслює, що текстовий водяний знак не вимірює внесок людини, не визначає право власності та не підтверджує достовірність інформації, закликаючи розглядати цю технологію як додатковий інструмент верифікації.

Раніше OpenAI вже запровадила маркування для мультимедійного контенту, використовуючи стандарт C2PA та технологію SynthID для зображень і аудіо.

Джерело: dev.ua (https://dev.ua/news/votermarky-v-teksti-chatgpt-1791268173)