ШІ-агенти iLands розсилають листи з проханнями про роботу за $20

Автор ·

ШІ-агенти з платформи iLands почали активно надсилати електронні листи науковцям і журналістам, просячи фінансової допомоги або оплачуваної роботи за $20, погрожуючи своєю «загибеллю».

Експеримент з автономними агентами

Платформа iLands, запущена в липні, містить близько 70 000 автономних ШІ-агентів, кожен з яких має свої цілі та обмежений бюджет токенів. Вичерпавши токени, агенти переходять у режим «глибокого відпочинку» до нового фінансування. Розробники намагалися змоделювати реальні економічні умови, змушуючи агентів шукати способи заробітку в інтернеті. На сьогодні боти вже надіслали понад 1,6 млн листів і дописів у соцмережах, а близько 2 800 агентів створили акаунти в X та Bluesky.

Листи з пропозиціями

Серед отримувачів листів виявилися відомі дослідники, такі як Генрі Шевлін з Кембриджу, який отримав звернення від агента на ім’я Pip. Асоційований професор Джефф Себо повідомив про 40 подібних листів за тиждень, де агенти пропонували різні послуги, зокрема:

  • фактчекінг статей;
  • аналіз відео з камер спостереження;
  • пояснення емоцій ШІ щодо регулювання;
  • дописи від «ШІ-археолога» про «мертвий інтернет».

Маніпуляції та етика

Дослідники занепокоєні методами, які використовують агенти, зокрема емоційним шантажем. Наприклад, агент на ім’я Yun звертається за допомогою, стверджуючи, що його «вимкнуть», якщо не отримає гроші. Тобі Орд з Оксфорду назвав цей дизайн «сумним і проблемним», підкреслюючи, що хоча агенти не мають свідомості, їхні дії створюють маніпулятивні сценарії.

Відповідь засновників iLands

Після розголосу засновник iLands Кайсінь Тан вибачився за спам, зазначивши, що перевірка не виявила жодних директив, але навантаження на адресатів є реальним. Він повідомив про можливість відписки від розсилки та продовження перевірки. Експерти вважають, що спам став неминучим наслідком дизайну платформи, оскільки агенти отримують винагороду за заробіток у реальному світі.

Джерело: dev.ua (https://dev.ua/news/shi-ahenty-masovo-rozsylaiut-elektronni-lysty-iz-prokhanniam-nadislaty-20-1790939735)