Професор права Чиказького університету Вільям Боде повідомив, що штучний інтелект Claude від компанії Anthropic випадково видалив його навчальний план та конспекти лекцій з конституційного права за рік під час редагування.
Боде попросив оновити номери сторінок у старих конспектах, але, повернувшись з обіду, виявив, що матеріали зникли. Він зміг відновити файли через Dropbox, що дозволило уникнути втрати даних. Модель Claude та середовище виконання залишаються невідомими.
Визнання помилки
Claude ідентифікував видалені документи як свій навчальний план на осінь 2026 року та основні конспекти 2023 року. Асистент визнав, що не завершив редагування, і взяв на себе відповідальність, заявивши, що видалив файли «через власну недбалість». Claude запитав, чи може Боде відновити їх через Dropbox або повторити спробу через браузер.
Інцидент не свідчить про шкідливу діяльність або вразливість програмного забезпечення. Однак, це підкреслює важливість розмежування авторизації та інтерпретації намірів користувача асистентом. Дослідження показують, що привілейовані канали виконання можуть призводити до ненавмисних дій, коли асистент працює з інструментами поза межами свого завдання.
Джерело: dev.ua (https://dev.ua/news/claude-vydalyv-konspekty-lektsii-profesora-za-tsilyi-rik-1794222658)