Дослідження виявило ризики помилкових спогадів через ШІ

Автор ·

Дослідження науковців Джорджтаунського та Вашингтонського університетів показало, що помилкова інформація в переказах, створених за допомогою ШІ, може змінювати спогади людей. Це ставить під сумнів необхідність перевірки результатів роботи ШІ.

Деталі експерименту

У дослідженні взяли участь 328 дорослих із США, які переглянули 25-секундне відео автомобільної аварії. Наступного дня їм представили переказ, створений ChatGPT, з правильною або помилковою інформацією про дорожній знак.

  • При точному переказі 83,6% учасників правильно згадали знак.
  • Серед тих, хто читав помилковий переказ, правильну відповідь дали лише 44,8%.

Ці результати не залежали від того, вважали учасники, що текст написаний людиною чи ШІ.

Помилки в переказах

Дослідники також попросили ChatGPT і Gemini описати два короткі відео. У 20 переказах було виявлено від 7 до 21 помилки, а в середньому моделі пропустили 51,6% важливих деталей. У 95% текстів не згадувалася центральна подія — зіткнення автомобіля з пішоходом.

Ці результати мають особливе значення для сфер, де ШІ використовують для складання звітів, наприклад, у поліції та медицині. Людина, яка перевіряє такі документи, може не лише пропустити помилку, а й сприймати її як власний спогад.

Обмеження дослідження

Однак дослідження має свої обмеження: аналіз охоплював лише два короткі анімовані ролики, а вплив помилкової деталі перевірявся в обмеженому контексті. Скорочену версію роботи опубліковано на конференції AAAI/ACM з етики та суспільства.

Джерело: Mezha.Media (https://mezha.ua/news/ai-generated-fake-memories-316290/)