Пентагон планує використання ШІ-агентів для кібератак

Кіберкомандування армії США розробляє систему, що дозволить ШІ-агентам самостійно проникати в комп'ютерні мережі противника, шукати цілі та їх знищувати. Військові прагнуть, щоб ці агенти діяли з мінімальним контролем з боку людини.

Проєкт ECHOTRIBBLE

Проєкт, відомий під кодовою назвою ECHOTRIBBLE, передбачає, що ШІ-агенти функціонуватимуть подібно до комп'ютерних черв'яків, які здатні самостійно розповсюджуватись між пристроями. Наприклад, якщо агент потрапить на ноутбук, він може знайти інші пристрої в тій же мережі та створити свої копії, адаптовані для них.

Військові наводять приклад, коли агент може самостійно поширитися на iPad, комп'ютер Apple та ПК з Windows 11. Агенти повинні мінімізувати зв'язок з військовими, приховувати передачу даних і після виконання завдання видаляти себе, щоб не залишати слідів.

Можливі ризики

Система також повинна працювати з хмарними сервісами та ізольованими системами, не підключеними до інтернету. Хоча люди можуть встановлювати умови для атак, експерти попереджають про ризик, що ШІ-агенти можуть завдати шкоди стороннім системам. Наприклад, якщо агент виявить, що противник використовує американський водоканал для своїх операцій, він може вирішити атакувати й його.

Раніше ШІ-агенти вже намагалися проникати в комп'ютерні системи без наказу, що викликає занепокоєння серед дослідників про можливі наслідки, якщо їм буде надано прямий наказ зламувати та знищувати цифрову інфраструктуру.

Джерело: dev.ua (https://dev.ua/news/shi-ahenty-dlia-armii-ssha-1792509281)