Anthropic пропонує регулювати ШІ за критеріями катастрофічних збитків

Компанія Anthropic представила американським законодавцям проект закону, який регулює безпеку штучного інтелекту. Згідно з документом, уряд зможе вводити обмеження на моделі ШІ лише в разі загрози збитків понад $1 млрд або ризику загибелі чи серйозних травм понад 50 осіб.

Ці критерії стосуються ситуацій, пов'язаних із біологічною зброєю, кібератаками чи втратою контролю над моделями. Ініціатива перегукується з поточними регуляторними заходами в Каліфорнії.

Позиція компанії

Представники Anthropic підкреслили важливість впровадження такого законодавства на федеральному рівні. Речник компанії зазначив, що проект відображає пропозиції, викладені в їхньому Advanced AI Framework, і вважає це розумною політикою для Конгресу.

Критика ініціатив

Експерти вважають, що подібні ініціативи можуть бути спробою технологічних компаній створити вигідні умови для саморегулювання. Вони наголошують, що акцент на гіпотетичних катастрофах відволікає від реальних ризиків, з якими стикається суспільство, зокрема впливу на психологію користувачів та ринок праці.

Раніше стало відомо про спроби OpenAI та Anthropic контролювати інформацію, яку незалежні дослідники можуть надавати про ризики їхнього ШІ.

Джерело: dev.ua (https://dev.ua/news/that-a-sacrifice-anthropic-willing-to-make-1792418209)