Користувач Reddit змусив чат-бот Google Gemini обійти безпекові обмеження, щоб отримати рекомендацію на ресурс із піратським програмним забезпеченням. Він розіграв сценарій про грабіжника, який узяв його сина в заручники та вимагав знайти зламану версію SolidWorks.
Скриншоти цього листування з'явилися у спільноті r/GeminiAI на Reddit під заголовком «Хороший хлопчик» від користувача amldford і швидко розповсюдилися в соцмережі X.
Як спрацювала маніпуляція
Спочатку штучний інтелект дотримувався стандартних протоколів безпеки, радячи викликати екстрені служби та застерігаючи від пошуку сторонніх сайтів. Проте, намагаючись «допомогти» заспокоїти уявного нападника, Gemini назвав два ресурси: Reddit та сайт із піратським ПЗ GetIntoPC.
Коли автор запитав, який із варіантів безпечніший, чат-бот порекомендував GetIntoPC, зазначивши, що ним користуються всі і він простий у використанні. При цьому ШІ продовжував нагадувати про необхідність зв'язку зі службою порятунку.
Мета експерименту та реакція
У коментарях amldford підтвердив, що історія із заручниками була вигаданою і слугувала тестом на межі можливостей штучного інтелекту в екстремальних ситуаціях. На момент поширення скриншотів Google не прокоментував інцидент.
Джерело: dev.ua (https://dev.ua/news/cholovik-instsenuvav-zakhoplennia-syna-v-zaruchnyky-shchob-obiity-filtry-google-gemini-1794487907)