OpenAI запроваджує невидимі водяні знаки у текстах ChatGPT в ЄС

OpenAI планує впровадити невидимий водяний знак для текстів, створених ChatGPT і Codex, у Європейському Союзі. Про це повідомляє TechCrunch. Джерело: AIN.UA

Запуск функції

Технологію, названу textGrain, поступово запустять протягом найближчих тижнів для всіх користувачів. Водяний знак не буде видимим у тексті, оскільки він працює через незначні зміни у виборі слів, які формують статистичний патерн, що може бути виявлений спеціальним детектором. Це маркування зберігається навіть після копіювання тексту.

Вразливість водяного знака

Дослідження показують, що водяний знак може бути обійдено шляхом ручного редагування. Наприклад, заміна 10% слів на синоніми знижує ймовірність розпізнавання з 92% до 66%. Алгоритм також має труднощі з виявленням коротких уривків і математичних формул.

На початковому етапі OpenAI надасть інструменти детекції лише акредитованим дослідникам для оцінки надійності.

Причини маркування тексту

Цей крок пов'язаний із вимогами Європейського акту про штучний інтелект, який вимагає маркування контенту, створеного ШІ.

Інші компанії

Anthropic також планує впровадити подібну технологію для свого продукту Claude, використовуючи невидимі водяні знаки та цифрові метадані. Google і Meta вже реалізували механізми маркування ШІ-контенту в рекламі, дозволяючи користувачам бачити, чи була реклама створена за допомогою штучного інтелекту.