Дослідження: як попереджати про галюцинації ШІ у VR

Автор ·

Дослідники з Університету штату Північна Кароліна вивчили три способи, як ШІ-персонаж у VR може сигналізувати про свою невпевненість у відповідях. Вони протестували: жестові сигнали, спеціальні іконки та підсвічування сумнівних текстів.

Методи попередження

У дослідженні «Signals of AI Hallucination: Designing Hallucination-Aware Cues for Embodied Conversational Agents in VR» йдеться про embodied conversational agents — розмовних ШІ з віртуальним тілом, які можуть спілкуватися з користувачами у VR.

У VR попередження про сумнівні відповіді є складнішим, ніж у звичайних чатботах, адже персонаж говорить в реальному часі, а користувачі слідкують за навколишнім середовищем.

Експеримент

Дослідники залучили 24 студентів для спілкування з віртуальною ШІ-персонажкою, яка іноді наводила неправдиві факти. Вони протестували:

  • жести невпевненості (наприклад, схрещені руки);
  • іконку, що вказує на необхідність перевірки інформації;
  • субтитри з підсвічуванням сумнівних частин.

Контрольна версія не містила жодних попереджень.

Результати

Найефективнішим способом виявлення галюцинацій виявилися текстові підказки, але вони відволікали користувачів від VR. Жести, навпаки, менше порушували занурення, але їхнє значення могло бути не зрозумілим. Іконки були зрозумілішими за жести, але не так сильно відволікали.

Дослідники зазначають, що одна й та сама мова тіла може мати різні значення в різних культурах. Вони вважають, що в майбутньому розробники зможуть комбінувати різні методи попереджень залежно від контексту.

Джерело: dev.ua (https://dev.ua/news/yak-shi-personazham-u-vr-pokazuvaty-imovirnist-haliutsynatsii-1790856015)