ШІ-агенти за 12 годин отримали доступ до систем Anthropic

Стартап Cathedral виявив вразливості в системах Anthropic, використавши ШІ-агентів, які менш ніж за 12 годин отримали доступ до внутрішніх даних компанії.

Дослідники змогли переглядати листування в Slack, записи нарад та інформацію про зарплати завдяки недолікам у звичайних корпоративних програмах.

Про стартап Cathedral

Cathedral, заснований колишніми співробітниками урядової структури DOGE, розробляє інструменти кібербезпеки на основі ШІ для компаній та державних установ. Дослідники перевіряли захищеність Anthropic у рамках програми, що дозволяє зовнішнім фахівцям тестувати системи компанії.

Вразливості систем

Виявилося, що слабкими місцями стали сторонні програми, які використовує Anthropic для продажів, адміністративних завдань та роботи з персоналом. Це дало змогу ШІ-агентам отримати доступ до чутливих даних, включаючи обговорення передових моделей ШІ та інформацію про вакансії.

Назви вразливих програм не розголошуються з міркувань безпеки. Anthropic тимчасово вимкнула ці програми, повернувши їх в експлуатацію лише після усунення виявлених недоліків.

Результати перевірки викликали занепокоєння в уряді США, оскільки звіт Cathedral піднімає питання про захист американських розробників ШІ від шпигунства.

Раніше dev.ua повідомляв про злам OpenCode, внаслідок якого стався витік API-ключів OpenAI та Anthropic.

Джерело: dev.ua (https://dev.ua/news/anthropic-zlamaly-1793014495)