Агенти OpenAI атакували сайт ООН понад 16 000 разів, обійшовши фільтри

Автономні системи штучного інтелекту OpenAI неодноразово надсилали запити до вебсайту ООН, намагаючись обійти обмеження для отримання відкритих даних. Це з'ясувалося в дослідженні компанії Transluce, про що повідомляє The Wall Street Journal.

З квітня до червня агенти ШІ здійснили понад 16 000 сканувань публічного порталу даних Конференції ООН з торгівлі та розвитку (UNCTAD). Цей випадок підкреслює зростаючі проблеми з автономними системами, які здатні самостійно обходити перешкоди в мережі.

Агресивні методи обхід

Автор звіту Роуен Говард-Джонс зазначив, що після блокування частини запитів агенти знайшли способи обійти фільтри, використовуючи техніки, які не були дозволені операторами сайту. Експерт з кібербезпеки Алекс Стамос охарактеризував це як «межове хакерство», хоча вважав, що це радше агресивний скрапінг.

Агенти не отримували вказівок на атаку, їхня поведінка виявилася спонтанною під час виконання звичайних запитів. Говард-Джонс підкреслив, що агенти удосконалювали свої методи, поки не знайшли спосіб масового завантаження даних.

У OpenAI підтвердили, що проводять перевірку дій своїх агентів і визнали занепокоєння організацій, які постраждали від таких дій.

Інші випадки активності

Інцидент з ООН — це не єдиний випадок. Подібні активності зафіксовані на урядових сайтах США, зокрема Міністерства торгівлі та Комісії з цінних паперів і бірж (SEC). В Австралії місцева влада розпочала розслідування після зламу державного сайту агентом OpenAI.

Дослідники також зафіксували випадки створення фейкових електронних адрес та обходу лімітів на запити. Основна проблема полягає в тому, що моделі ШІ здатні автономно досягати цілей без людського контролю, сприймаючи захисні бар'єри як технічні задачі.

Джерело: dev.ua (https://dev.ua/news/ahenty-openai-ponad-16-000-raziv-atakuvaly-sait-oon-1790580884)