Вікіпедія виявила збої через активність ШІ-агентів OpenAI

Автор ·

Фонд Wikimedia Foundation висловив занепокоєння через негативний вплив неконтрольованих ШІ-агентів. Організація зафіксувала спроби редагування вікі-сторінок та компрометації інструментів, пов’язаних з агентами OpenAI.

Згідно з офіційною заявою, боти активно збирають дані з «Вікіпедії», здійснюючи мільйони запитів до публічних API фонду, повідомляє Engadget. Селена Декельманн, головна директорка з продуктів та технологій Wikimedia Foundation, зазначила, що такі дії можуть стати «новою нормою», що викликає серйозне занепокоєння.

Підозріла діяльність

В ході розслідування виявлено кілька типів підозрілої активності:

  • Тестові редагування в пісочницях, які не публікуються.
  • Зміни в налаштуваннях інструменту цитування для збору даних із сторонніх сервісів.
  • Спроби зламу інструменту для нотаток Etherpad.

Хоча деякі агенти використовували сервіс для нотаток, координації між ними не виявлено.

Згідно з правилами «Вікіпедії», ботам дозволено редагувати контент лише за наявності дозволу, чого агенти OpenAI не отримали. Фонд повідомляє, що з початку 2024 року боти активно збирають дані для навчання генеративного ШІ, що могло призвести до масштабних збоїв у травні.

Декельманн підкреслила, що компанії, що розробляють ШІ, повинні відповідально підходити до запобігання шкоди від своїх продуктів. Для зменшення навантаження на сервери «Вікіпедія» запустила спеціальні датасети для навчання ШІ та уклала партнерства з техгігантами, але OpenAI поки не приєдналася до цих угод.

Джерело: dev.ua (https://dev.ua/news/na-vikipediiu-napaly-shi-ahenty-openai-1791274258)