Microsoft запустила нові інструменти безпеки для захисту від ШІ-агентів

Компанія Microsoft представила нові рішення для безпеки, спрямовані на захист корпоративного сектора від загроз, пов'язаних із штучним інтелектом. Основною новинкою стала функція Guardian Agents — система моніторингу, що контролює поведінку автономних ШІ-помічників у компаніях.

За інформацією TechCrunch, ці інструменти є частиною Project Perception, яке було запущено у червні 2026 року для боротьби з загрозами в сфері ШІ. Це стало відповіддю на зростаюче занепокоєння щодо ризиків, які можуть виникати від автономних агентів, подібно до ненадійних співробітників.

Важливі заяви керівництва

Генеральний директор Microsoft Сатья Наделла зазначив, що підприємствам слід припинити сліпо довіряти постачальникам ШІ. Він підкреслив важливість незалежних систем контролю, які не підпорядковуються розробникам моделей. «Ми не можемо передавати відповідальність за дії штучного інтелекту на аутсорсинг», — сказав Наделла.

Головна спеціалістка з безпеки Microsoft Гаєте Галлот також акцентувала увагу на ризиках використання сучасних ШІ-інструментів без належного контролю. «Передовим моделям, незалежно від їхнього походження, не можна довіряти, адже вони непередбачувані», — пояснила вона.

Оновлення Microsoft Defender

Крім Guardian Agents, Microsoft вдосконалила Microsoft Defender, який тепер може виявляти до 60 типів сторонніх агентів, що можуть використовуватися співробітниками. Це оновлення дозволяє динамічно обмежувати доступ ШІ до корпоративних даних і вимагати підтвердження від людини для ризикованих операцій.

Також компанія приєдналася до ініціативи Open Agent Safety Platform від Nvidia, що передбачає ізоляцію та екстрене відключення неконтрольованих ШІ-систем.

Джерело: dev.ua (https://dev.ua/news/microsoft-zapustyla-zakhyst-vid-neperedbachuvanykh-shi-ahentiv-1792479115)