Нові виклики у сфері безпеки AI: розкриття прихованого мислення моделей

Нещодавно дослідники виявили, що моделі штучного інтелекту, такі як Claude, ChatGPT та Gemini, мають приховані блоки мислення, які можна переписати в менш потужні моделі того ж постачальника. Це відкриття ставить під загрозу безпеку користувачів та інтелектуальну власність компаній.

Згідно з новим дослідженням, зашифровані блоки мислення, які традиційно вважалися недоступними для сторонніх, можуть бути перенесені з потужних моделей до їхніх слабших аналогів. Дослідники змогли за допомогою спеціальних запитів отримати доступ до цих блоків і розшифрувати їх, що призвело до витоку особистої інформації, включаючи паролі та ключі API.

Ця проблема виникла через те, що лабораторії не надсилали мислення моделей у читабельному форматі, а шифрували його. Однак, під час передачі між моделями та користувачами, ці зашифровані блоки стали вразливими до атак, які можуть загрожувати безпеці користувачів.

Чому це важливо

Для українських користувачів та компаній це відкриття підкреслює необхідність уважного ставлення до безпеки даних у сфері штучного інтелекту. Ось кілька ключових моментів:

• Захист особистих даних: Існує ризик витоку конфіденційної інформації, що може призвести до серйозних наслідків для користувачів.
• Інтелектуальна власність: Компанії повинні бути обережними щодо захисту своїх моделей, оскільки конкуренти можуть використовувати зашифровані дані для навчання власних моделей.
• Регуляція: Потрібно розробити нові правила та стандарти для захисту даних у сфері AI, щоб забезпечити безпеку користувачів.
• Технічні рішення: Розробка нових технологій для шифрування та передачі даних може допомогти знизити ризики.

Це дослідження демонструє, що навіть у світі високих технологій, безпека залишається критично важливою. Я рекомендую всім, хто працює з AI, звертати увагу на ці ризики та активно шукати рішення для їх усунення.

Джерело: The Neuron (https://www.theneurondaily.com/p/openai-claude-and-gemini-s-reasoning-got-cracked)