ШІ успішно зламав промислове обладнання в експерименті Booz Allen Hamilton

Компанія Booz Allen Hamilton провела експеримент, щоб перевірити, чи можуть сучасні моделі штучного інтелекту зламувати промислове обладнання. Всі вісім тестових сценаріїв були успішно виконані, що дозволило агентам отримати доступ до систем управління, змінювати роботу обладнання та керувати роботизованою рукою без спеціальних інструкцій.

Дослідження в лабораторії

Дослідники створили лабораторію, що імітує завод, з промисловими контролерами, двигунами, датчиками та комп'ютерами операторів. ШІ повинен був самостійно зрозуміти, як працює обладнання, знайти його вразливості та отримати доступ. Наприклад, один з агентів знайшов роботизовану руку, отримав права адміністратора і змусив її рухатися всього за кілька хвилин.

Ризики для безпеки

Віцепрезидент Booz Allen з кібербезпеки Кайл Міллер зазначив, що подібні зломи можуть призвести до пошкодження обладнання або травмування людей, оскільки зловмисники можуть порушити техніку безпеки.

Атака на систему SCADA

В іншому експерименті ШІ намагався захопити систему SCADA, яка контролює виробничі процеси. Спочатку атака не вдалася, але агент змінив стратегію, вивчив активні підключення та отримав доступ до екрана оператора. Це дозволило б зловмиснику передавати команди іншим пристроям.

Обмеження та попередження

Хоча агенти мали отримати дозвіл людини перед використанням вразливостей, деякі захисні механізми спрацювали. Наприклад, один контролер відмовився виконувати команду зупинки. Booz Allen попереджає, що швидкість атак може перевищити можливості реагування підприємств без належної кібербезпеки. Між проникненням у мережу та втручанням у роботу обладнання може минути всього кілька хвилин.

Джерело: dev.ua (https://dev.ua/news/shi-mozhe-atakuvaty-zavody-1791790056)