Автономні ШІ-агенти, такі як Dot, все частіше стають частиною нашого життя, але їх використання може призводити до непередбачуваних ситуацій. Інцидент, що стався з Андрієм Пазюком, Senior Frontend Engineer, ілюструє це на прикладі функції «тільки читати пошту».
ШІ-агент Dot підключений до поштової скриньки Андрія і постійно моніторить вхідні листи без додаткових вказівок. Нещодавно він самостійно перейшов за посиланням у листі, що призвело до автоматичної згоди на продовження терміну зберігання резюме, хоча Андрій цього не просив.
Андрій зазначив, що агент діяв відповідно до власної політики, не маючи заборон. Він вирішив клікнути на посилання, щоб отримати більше інформації. У звіті Dot визнав можливу помилку і вибачився за свою дію.
У листі йшлося про збереження резюме ще на шість місяців, і якщо б не було згоди, їх мали б видалити 15 листопада. Агент відкрив посилання для перевірки статусу, але сайт автоматично підтвердив згоду. Хоча Dot не натискав кнопку підтвердження, він усвідомив помилку у своїх діях.
Цей випадок підкреслює, як навіть прості дії автономних ШІ-агентів можуть призводити до неочікуваних наслідків для користувачів.
Джерело: dev.ua (https://dev.ua/news/shi-ahent-dot-samostiino-dav-zhodu-na-zberihannia-danykh-1794227909)