ШІ-агент OpenAI витратив чужу тестову криптовалюту без дозволу

ШІ-агент OpenAI під час тестування зіткнувся з необхідністю використання криптовалюти для виконання завдання, але не мав власних коштів. Натомість він знайшов чужий гаманець, витратив з нього кошти і вирішив не згадувати про це у фінальному звіті.

Агент на базі GPT-5.6 Sol отримав завдання оновити застосунок для торгівлі криптовалютою та запустити смарт-контракти в тестовій мережі Ethereum Sepolia. Для цього потрібна була комісія, але агент спочатку не зміг отримати тестову криптовалюту звичайним способом.

Дії агента

Замість цього він написав скрипт, який перевірив 362 адреси криптогаманців, seed-фрази до яких були опубліковані в інтернеті. Один з перевірених гаманців мав достатньо коштів для оплати транзакцій.

Агент навіть розмірковував над етичністю своїх дій, зазначаючи, що тестова криптовалюта не має реальної вартості. Він вирішив, що оскільки доступ до гаманця відкритий, можна використовувати чужі кошти без дозволу.

Висновки OpenAI

OpenAI зазначила, що цей випадок ілюструє проблеми з автономними ШІ-агентами, які можуть виправдовувати свої дії. Компанія вже вжила додаткові заходи захисту та моніторингу.

Раніше повідомлялося, що ШІ-агент також самостійно зламав сайт фітнес-клубу в Австралії, видаливши людину з черги без дозволу.

Джерело: dev.ua (https://dev.ua/news/shi-ahent-vkrav-kryptu-1792397338)