Дослідник Anthropic залишає компанію через ризики штучного інтелекту

Джейкоб Коксон, дослідник Anthropic, вирішив покинути компанію через занепокоєння щодо контролю над штучним інтелектом. Він не хоче брати участь у гонці за створенням самовдосконалювальних систем.

Протягом трьох років Коксон працював в OpenAI та Anthropic, займаючись попереднім навчанням моделей. У своєму дописі в X він звинуватив обидві компанії у безвідповідальному підході до розвитку технологій.

Побоювання щодо майбутнього ШІ

Коксон вважає, що майбутні системи можуть перевершити людей, здійснювати кібератаки та здобувати реальний вплив. Він зазначає, що деякі керівники та дослідники усвідомлюють ризики, але публічно висловлюються обережніше. Це його особиста оцінка, а не підтвердження наявності таких можливостей у сучасному ШІ.

«Вони мчать до надінтелекту, здатного самовдосконалюватися, і ризикують нашими життями», — написав Коксон.

Заклик до координації

Коксон закликає компанії в сфері ШІ до координації. Якщо домовитися не вдасться, він пропонує розглянути можливість тимчасової заборони на нарощування можливостей моделей. У червні Anthropic вже закликала до створення можливості сповільнити розвиток ШІ, якщо інші розробники також приєднаються.

Коксон отримав підтримку від колег. Еван Губінгер, також з Anthropic, висловив думку, що загибель людства через ШІ є можливим сценарієм, оцінюючи ймовірність цього протягом наступного десятиліття у понад 10%. Він зазначив, що Anthropic намагається діяти відповідально, але наразі не має способу узгодити поведінку штучного надінтелекту з людськими цілями.

Самуель Маркс, дослідник безпеки Anthropic, також підтримав Коксона, підкресливши, що технологія може призвести до катастрофічних наслідків протягом найближчих років, а наявні методи не гарантують надійного узгодження моделей.

Джерело: Mezha.Media (https://mezha.ua/news/researcher-quit-anthropic-315020/)