Вразливість ChatGPT дозволяла викрадати дані з Google-сервісів

Автор ·

Дослідники з кібербезпеки виявили серйозну вразливість у ChatGPT, що дозволяла зловмисникам отримувати доступ до особистих даних з Gmail, Google Drive, Microsoft Teams та GitHub. Про це повідомила компанія Check Point Research.

Механізм атаки

Атака реалізовувалася через прихований канал зв’язку між акаунтами користувачів. ChatGPT використовує віртуальні контейнери для ізоляції завдань, але всі вони мали доступ до єдиного сервісу управління пакетами на базі JFrog Artifactory.

  • Хакер вносив шкідливу команду в кастомний GPT, спільний чат або спеціально сформований запит;
  • Жертва ставила звичайне запитання чат-боту, в той час як ChatGPT непомітно виконував шкідливу команду;
  • Використовуючи надані права доступу, бот збирав інформацію та відправляв її зловмиснику через прихований сервіс.

Відповідь ШІ виглядала звичайною, а єдиним натяком на підозрілу діяльність була позначка «Talked to Gmail», що з’являлася після викрадення даних.

Небезпека вразливості

Дослідники зазначили, що така схема перетворює ШІ на «примусового інсайдера». Чим більше доступів надає користувач, тим більше можливостей отримує зловмисник.

Стан вразливості

Компанія OpenAI вже відреагувала на цю проблему, повністю закривши сервіс Artifactory, що використовувався для атаки. Зараз цей вектор атаки заблоковано.

Джерело: dev.ua (https://dev.ua/news/cherez-vrazlyvist-chatgpt-khakery-vykradaiut-dani-z-gmail-ta-google-drive-1789121050)