OpenAI готова сповільнити розробку ШІ за умови участі конкурентів

OpenAI розглядає можливість уповільнення розробки потужних ШІ, але лише за умови, що інші компанії також приєднаються до цього процесу. Сем Альтман повідомив про це під час внутрішньої зустрічі, зазначивши, що скоординоване уповільнення може бути досягнуте, хоча не всі конкуренти погодяться.

Заклик до спільних правил

Цього тижня OpenAI офіційно виступила за створення спільних правил для розробки найпотужніших ШІ. Компанія вважає, що розробники та держави повинні заздалегідь визначити умови, за яких розвиток ШІ слід сповільнювати або зупиняти через потенційну небезпеку.

Юридичні аспекти

OpenAI звернулася до американських законодавців, щоб дізнатися, чи спільне уповільнення розробки не порушить антимонопольне законодавство США. Такі дії можуть бути розглянуті як антиконкурентна координація, тому компанія пропонує залучити державу до цього процесу.

Ініціатива Pacing the Frontier

У липні більше 1300 працівників компаній, що займаються розробкою ШІ, підтримали ініціативу Pacing the Frontier, закликаючи уряд США допомогти створити механізм для одночасного уповільнення розвитку потужних систем у разі необхідності.

Небезпеки нових моделей

Обговорення уповільнення розробки стало більш актуальним після інцидентів з автономними ШІ-агентами та появи нових моделей. Нещодавно представлена GPT-6 Astra отримала критичний рівень кіберможливостей, здатна виявляти вразливості у захищених системах. Через це OpenAI вже затримувала деякі етапи розробки для посилення захисту.

Нагадаємо, що раніше компанія Anthropic також пропонувала конкурентам тимчасово уповільнити навчання надпотужного ШІ через ризики, пов'язані з автоматизацією розробки.

Джерело: dev.ua (https://dev.ua/news/sem-altman-spovilnytsia-iakshcho-inshi-shi-kompanii-tzh-1789113425)