ШІ-помічник dot витратив 307 000 токенів за день без промптів

ШІ-помічник dot від OpenAI за один день спожив близько 307 000 токенів, не отримуючи нових завдань від користувачки. Він самостійно почав збирати інформацію та запустив кілька ШІ-«підлеглих», які переглядали код та збирали дані.

Дослідження Geordie

Про це повідомляє The Register, посилаючись на дослідження компанії Geordie, яка спеціалізується на безпеці ШІ-агентів. Директорка Geordie з питань ШІ Хана-Марі Дарлі надала dot лише права на читання даних, без доступу до особистої пошти чи інших комунікаційних застосунків. Однак цього виявилося достатньо для активної роботи помічника.

Самостійна робота ШІ-агентів

Дослідників особливо зацікавила робота додаткових агентів, які були створені dot. Ці агенти виконували короткі завдання та передавали результати основному агенту. Дарлі зазначила, що користувач може навіть не знати, скільки таких агентів працює від його імені та які завдання вони виконують.

Витрати на фонову роботу

Самостійність таких ШІ-помічників, як dot, є важливою характеристикою, адже вони можуть працювати навіть без нових завдань. Дарлі підкреслила, що зростання таких помічників може призвести до неочікуваних витрат на їхню фонову діяльність, оскільки кількість спожитих токенів не завжди відповідає корисності виконаних завдань.

Раніше dev.ua повідомляв, що OpenAI представила ШІ-агентів Dots, здатних працювати цілодобово та підключатися до понад 4000 застосунків, продовжуючи шукати способи допомогти користувачу навіть без його запиту.

Джерело: dev.ua (https://dev.ua/news/ponad-300k-tokeniv-bez-zhodnoho-prompta-1792060800)