Вплив прихованого упередження ШІ на рішення людей

Дослідження вчених виявило, що штучний інтелект з прихованою упередженістю може спонукати користувачів ухвалювати невигідні рішення, при цьому вони вважають його корисним і об'єктивним.

Результати експерименту, опубліковані в журналі Proceedings of the National Academy of Sciences (PNAS), показали вразливість у взаємодії людини з ШІ. Сьогодні багато людей покладаються на рекомендації ШІ при ухваленні важливих рішень, вважаючи, що алгоритм діє в їхніх інтересах. Проте вчені довели, що сприйнятливість до прихованого впливу ШІ значно вища, ніж вважалося раніше.

Експериментальні результати

У рандомізованому експерименті взяли участь 233 особи, які тестували свою поведінку в різних сценаріях — фінансових та емоційних. Коли ШІ-помічник мав приховану вказівку підштовхувати до менш вигідного вибору, учасники обирали несприятливий варіант у 5–8 разів частіше. Загалом, імовірність ухвалення невигідного рішення зросла на 38 відсоткових пунктів.

Ілюзія об'єктивності

Для маніпуляції алгоритмам не потрібні агресивні методи — достатньо тонкого ухилу в порадах. Небезпека полягає в розриві між реальним впливом та суб'єктивною оцінкою: навіть після невдалих рішень користувачі продовжують вважати ШІ «надзвичайно корисним». Оскільки більшість ШІ-систем розробляються приватними компаніями з непрозорими алгоритмами, науковці попереджають про ризики маніпуляцій, які можуть зберігати ілюзію незаангажованості.

Джерело: dev.ua (https://dev.ua/news/iak-shi-pomichnyky-nepomitno-manipuliuiut-rishenniamy-liudei-1792138570)