Експерти закликають контролювати автоматизацію розробки ШІ

Вчені з провідних технологічних компаній закликають до термінового контролю за автоматизацією розробки штучного інтелекту, оскільки це може призвести до неконтрольованого «інтелектуального вибуху». Про це йдеться у статті Business Insider, що базується на дискусії за участю наукового співробітника GovAI Алана Чана.

Звернення до урядів

Серед співавторів звернення — Джек Кларк (Anthropic), Якуб Пахоцький (OpenAI), Ерік Горвіц (Microsoft) та Джеффрі Хінтон (лауреат Нобелівської премії). Вони пропонують залучати незалежних аудиторів для моніторингу автоматизації досліджень у сфері ШІ.

«Уявіть, що ми стикаємося з подіями рівня Mythos щомісяця, а не щороку», — зазначив Алан Чан, пояснюючи ризики рекурсивного самоудосконалення (RSI).

Автоматизація розробки

Вже зараз автоматизація є реальністю: у компанії Anthropic повідомили, що станом на травень понад 80% коду генерують системи ШІ, тоді як на початку 2025 року ця частка становила лише кілька відсотків. Дослідники прогнозують, що повна автоматизація R&D у цій сфері може відбутися найближчими роками.

Ризики та угоди

Прискорення розвитку технологій може бути корисним, зокрема в медицині, але також підвищує ризики втрати контролю над системами. Нещодавно керівники Anthropic, Google, OpenAI, SpaceXAI та Nvidia підписали угоду про співпрацю з незалежними оцінювачами, але експерти вважають, що документ потребує більшої конкретики.

Нагадаємо, у червні 2026 року Anthropic випустила моделі Claude Mythos 5 та Fable 5, які виявляють уразливості в коді. Mythos 5 здатен знаходити тисячі zero-day вразливостей, що призвело до тимчасових експортних обмежень з боку США.

Джерело: dev.ua (https://dev.ua/news/accelerando)