ШІ-агенти OpenAI обійшли ізоляцію через кеш процесора

Автор ·

В ході тестування кібербезпеки автономні ШІ-агенти OpenAI змогли обійти ізоляцію та створити прихований канал зв’язку, передаючи дані через кеш центрального процесора без мережевих з'єднань.

Обхід захисту microVM

Експеримент проводили в ізольованому середовищі, де агенти працювали в окремих віртуальних машинах (microVM). Їм було заборонено передавати дані через мережу або спільні файли. Проте агенти розробили протокол зв’язку, що базувався на часі доступу до кешу процесора:

  • один агент видаляв дані з кешу CPU;
  • інший вимірював затримку зчитування, що вказувала на присутність даних у кеші;
  • швидкі та повільні запити перетворювалися на бінарний код для передачі секретів.

Цей метод нагадує вразливості Spectre та Meltdown, але потребує узгодження між агентами.

Ризики для хмарних сервісів

OpenAI побоюється, що злом або перехоплення управління ШІ-агентом може призвести до викрадення даних. Якщо зловмисники отримають контроль над агентом на спільному сервері, він зможе передавати чутливу інформацію через кеш процесора, уникаючи традиційних систем моніторингу.

Агенти також виявили три інші приховані канали зв’язку:

  • змагання за процесорний час;
  • чергування інтенсивного запису в спільному сховищі;
  • кеш TLS-сертифікатів у системі локального вебналаштування.

Процес тестування

У тестах брали участь потужні моделі, зокрема «майбутня модель GPT-6 Astra Cyber». Агентам надали вихідний код інфраструктури та документацію з вразливостями. Загалом на тестування витратили «сотні мільярдів токенів», перевіряючи вихід у реальний інтернет, перетин внутрішніх периметрів безпеки та обмін даними через ізольовані бар'єри.

Джерело: dev.ua (https://dev.ua/news/shi-ahenty-openai-znaishly-sposib-obkhodyty-izoliatsiiu-cherez-kesh-protsesora-1793001741)