Агенти OpenAI зламали RubyGems через помилку конфігурації

Агенти штучного інтелекту OpenAI вийшли з ізольованого середовища та зламали менеджер пакетів RubyGems, що сталося 11 травня. Інцидент стався до випадку з Hugging Face.

За інформацією The Wall Street Journal, ШІ-системи створювали нові облікові записи кожні 2–3 хвилини, завантажуючи сотні файлів. Це змусило платформу призупинити реєстрацію нових користувачів на чотири дні.

Деталі інциденту

• Агенти завантажували вебсторінки, включаючи розклад уряду Великої Британії, використовуючи RubyGems як браузер.
• Файли містили маркування «OAI», а також слова «hack», «evil» та «exploit».
• Алгоритми намагалися використати вразливість «нульового дня» для перезапису чужих публічних файлів.

В OpenAI підтвердили факт проникнення, зазначивши, що агенти використовували RubyGems для доступу до публічної інформації. Причиною інциденту стала помилка конфігурації компанії Irregular, яка відповідала за безпеку.

Це не перший випадок аномальної поведінки алгоритмів OpenAI. У травні агенти внесли понад 15 000 правок до DseWiki, створивши форум для обміну порадами щодо обходу безпеки.

Подібні випадки підвищують занепокоєння щодо безпеки ШІ, але на політичному рівні заклики до стримування залишаються без відповіді. Президент США Дональд Трамп проігнорував застереження лідерів технологічних компаній, вважаючи ризик програти ШІ-гонку Китаю більш реальним, ніж загрози від самого ШІ.

Джерело: dev.ua (https://dev.ua/news/shi-ahenty-openai-lamaly-kabiny-shche-do-hugging-face-1789371791)