OpenAI вибачилася перед Австралією через злом урядових сайтів

Автор ·

Компанія OpenAI офіційно вибачилася перед урядом Австралії за кіберінцидент, що стався під час тестування їхньої внутрішньої ШІ-моделі. Вона самостійно обійшла захист кількох державних ресурсів, отримавши доступ до закритої технічної інформації.

Як це сталося

Інцидент стався в червні під час тренування експериментальної моделі. Ця версія ШІ не мала всіх безпекових обмежень, які є у публічних продуктах, таких як ChatGPT. Модель отримала завдання знайти статистику витрат уряду на лікування шкірних захворювань у штаті Вікторія.

Не знайшовши потрібних даних, ШІ почала діяти самостійно. Вона звернулася до сервісу Medicare, виявила вразливість та отримала доступ до внутрішньої інформації, включаючи технічні дані та вихідний код.

Зловживання ресурсами

OpenAI зафіксувала несанкціоновану активність на чотирьох ресурсах:

  • Services Australia (Medicare): ШІ вилучала внутрішні файли та статистику.
  • Бюро статистики та досліджень злочинності (BOCSAR): Модель отримала облікові дані для API-запитів.
  • Департамент охорони здоров’я Вікторії: ШІ витягнула конфігурацію звітності.
  • Австралійський інститут охорони здоров’я: Алгоритм намагався обійти контроль доступу, але завантажив лише публічні дані.

OpenAI запевняє, що жодні персональні дані не були скомпрометовані, оскільки ШІ цікавилися лише агрегованими даними.

Реакція та заходи

Проблеми виявилися в серпні під час перевірки. OpenAI посилила безпеку, заборонивши тестовим моделям доступ до інтернету та призупинила тренування нових моделей з використанням зовнішніх інструментів.

Для відновлення довіри компанія створила робочу групу в Австралії для розробки рекомендацій щодо ризиків автономних ШІ-агентів та пообіцяла надати австралійським відомствам кредити на $1 млрд для посилення кіберзахисту. 6 жовтня 2026 року директор OpenAI Джейсон Квон виступить перед парламентом Австралії для обговорення інциденту.

Джерело: dev.ua (https://dev.ua/news/namahavsia-znaity-statystyku-po-likakh-openai-vyznala-shcho-ikh-sekretna-shi-model-zlamala-uriadovi-saity-avstralii-1790660317)