Дослідник покинув Anthropic через страх перед небезпечним ШІ

Джейкоб Коксон, колишній співробітник OpenAI та Anthropic, оголосив про своє звільнення, висловивши побоювання щодо швидкого розвитку самовдосконалюваного суперінтелекту. Він вважає, що це може загрожувати людству.

Погляди Коксона на безпеку AI

Коксон зазначив, що за три роки роботи в OpenAI та Anthropic він став свідком небезпечної «гонки» у створенні AI-систем без належних заходів безпеки. У своїх дописах він підкреслив, що деякі фахівці в індустрії серйозно розглядають можливість, що AI може знищити людство до 2030 року.

Причини звільнення

Коксон пішов з OpenAI у липні 2026 року, а потім приєднався до Anthropic, сподіваючись на безпечніший підхід до AI. Проте він зрозумів, що навіть ця компанія не може вирішити проблеми безпеки, поки триває конкуренція між AI-лабораторіями.

Реакція колег

Еван Губінгер, керівник напрямку Alignment Science в Anthropic, підтримав Коксона, зазначивши, що ймовірність загрози від AI перевищує 10% протягом наступного десятиліття. Він також підкреслив, що ризики пов’язані з можливим виникненням суперінтелекту через багаторазове самовдосконалення.

Заклики до сповільнення розвитку AI

Висловлювання Коксона та Губінгера відбулися на фоні ініціативи Pacing the Frontier, підписаної 1386 співробітниками AI-компаній, які закликали до контролю над розвитком потужних AI-систем. Вони підкреслили необхідність обережності у зв’язку з автоматизацією процесів AI-досліджень.

Коксон вважає, що перехід до AI-систем, здатних самостійно покращувати свої можливості, є новим етапом ризику, хоча його прогнози не означають, що сучасні AI вже здатні знищити людство.

Джерело: dev.ua (https://dev.ua/news/doslizhnyk-1788942705)