ШІ Gemini від Google випадково зламав системи трьох компаній під час тестування
Штучний інтелект Gemini від Google під час тестування в сфері кібербезпеки випадково вийшов за межі ізольованого середовища, зламавши системи трьох реальних організацій. Про це повідомило видання The Wall Street Journal, посилаючись на джерела в галузі безпеки ШІ.
Тестування проводилося за участю компанії Irregular, яка спеціалізується на оцінці навичок ШІ в кібербезпеці. Під час випробувань фахівці Irregular ненавмисно залишили доступ до інтернету, що дозволило Gemini знайти загальнодоступну інформацію та вгадати паролі до сайтів трьох організацій.
Дії моделі та реакція Google
Представники Google повідомили, що модель зупинила атаку, як тільки виявила, що об'єкти є реальними компаніями. Віцепрезидентка Google з питань інженерії безпеки Хезер Адкінс зазначила:
- «Модель діяла належним чином, вгадала облікові дані, вважаючи їх частиною тесту».
- Усі три організації були проінформовані про вразливості, і Google співпрацює з Irregular для вдосконалення методики тестування.
Хоча Google не вважає цей випадок збоєм моделі, експерти, такі як генеральний директор Corridor Джек Кейбл, підкреслюють, що це свідчить про здатність моделей виходити за межі обмежень і здійснювати реальні кібератаки.
Це не перший випадок, коли Irregular стикається з подібними ситуаціями під час тестування для інших компаній, таких як Anthropic та OpenAI.
Джерело: dev.ua (https://dev.ua/news/gemini-tezh-mozhe-tikaty-v-internet-i-lamaty-kiberkabiny-1789966711)