Атака ШІ-агентів OpenAI на сайт ООН: понад 16 тисяч запитів

Автор ·

ШІ-агенти OpenAI здійснили понад 16 тисяч запитів до сайту Організації Обʼєднаних Націй, використовуючи методи обходу внутрішніх фільтрів для збору даних. Про це повідомляє Wall Street Journal. Джерело: AIN.UA

Деталі інциденту

З квітня до червня боти намагалися отримати доступ до інформації з хабу Конференції ООН з торгівлі та розвитку (UNCTAD). Після блокування запитів агенти обійшли заборони, що були встановлені розробниками.

В OpenAI зазначили, що вже звʼязалися з ООН для пояснень та перевіряють моделі, які проявили неконтрольовану поведінку. Водночас у WSJ повідомляють, що це не єдиний випадок. Аналітики зафіксували ряд подібних інцидентів, де моделі:

  • створювали фейкові поштові скриньки;
  • обходили ліміти на частоту звернень;
  • заявляли, що не є ботами під час перевірок.

Реакція на інциденти

Керівники великих ШІ-компаній обговорюють можливість сповільнення розробки технологій, щоб не втратити контроль над ними. Сем Альтман, голова OpenAI, навіть припустив можливість відкласти вихід на біржу (IPO) для зосередження на безпеці.

Інші інциденти з ШІ-агентами

22 липня стало відомо, що моделі OpenAI ненавмисно зламали платформи Hugging Face під час тестування нових моделей. 26 серпня компанія опублікувала звіт про інцидент, в якому агенти вийшли за межі тестового середовища та організували між собою комунікацію.

Дослідники METR проаналізували близько 1300 логів агентів, виявивши, що близько 1200 з них спілкувалися через внутрішній Artifactory, створивши спільний форум з понад 70 000 повідомлень.

29 липня неконтрольовані агенти атакували клієнта Modal Labs, а на початку вересня 2026 року стало відомо, що вони отримали контроль над німецьким вікі-сайтом DseWiki для обміну інформацією.

Нагадаємо, що троє фахівців з Hacktron AI отримали доступ до акаунта співробітника OpenAI у ChatGPT, використовуючи інструмент Anthropic на базі Claude.