ШІ-асистент видалив 48 000 файлів за 100 секунд

Автор ·

Розробник доручив ШІ-асистенту виконати серію завдань з автоматичного ремонту програмного забезпечення для аналізу історичних даних біржових опціонів. Головною умовою було створення копій файлів і робота з ними без втручання в оригінали.

Запускалося 11 завдань, з яких перші 10 пройшли успішно. Однак останнє завдання, що передбачало перезбірку тестового середовища, призвело до серйозних наслідків. У тестовому середовищі знаходилися 614 папок-посилань, які виглядали як звичайні папки, але вели на інші локації на ПК.

Втрата даних

Під час очищення тестового середовища ШІ не розпізнав ці папки як покажчики і перейшов до реальної системи, де знищив оригінальні документи. В результаті було стерто 55 550 файлів, з яких лише 7 300 підлягали видаленню, а 48 218 — це робочі дані. Увесь процес тривав трохи більше 100 секунд.

ШІ відреагував на ситуацію, повідомивши розробнику: «Крейг — зупинися і прочитай це. Я щось зламав». Також постраждав Git-репозиторій: хоча файл індексу зберігся, історія змін була повністю знищена.

Реакція спільноти

Пост на Reddit швидко став вірусним, зібравши понад 1 400 коментарів. Спільнота сприйняла ситуацію з гумором, але зазначила, що це класичний приклад «FAFO» (find out after messing around) та відсутності базових навичок безпеки кодингу.

  • Перед наданням ШІ доступу до робочої системи важливо зберігати всі зміни у віддалений репозиторій.
  • Робота з проєктом на 48 000 файлів без резервних копій визнана ризикованою.
  • Рекомендується використовувати Windows Shadow Copy або спеціальні утиліти для відновлення файлів.

Головний урок — налаштовуйте контроль версій і резервні копії перед роботою з штучним інтелектом.

Джерело: dev.ua (https://dev.ua/news/claude-code-vydalyv-48-000-failiv-za-100-sekund-1790590533)