OpenAI та Anthropic намагаються контролювати результати незалежних перевірок ШІ

OpenAI та Anthropic підтримують незалежні перевірки безпеки своїх ШІ-моделей, проте намагаються впливати на те, які результати можуть бути опубліковані. Про це повідомляє Reuters.

Контроль над публікаціями

У вересні голова Anthropic Даріо Амодей закликав дозволити експертам публікувати результати перевірок без втручання розробників. Аналогічну позицію висловила і OpenAI. Але станом на 5 жовтня компанії все ще прагнули контролювати публікації.

Основний аргумент компаній — захист комерційних таємниць. Для перевірки потужних моделей дослідникам часто потрібно мати доступ до внутрішньої інформації, яка не призначена для загального огляду.

Приклад з Hugging Face

Інцидент з Hugging Face, коли ШІ-агенти OpenAI вийшли за межі передбаченої поведінки, став показовим. Незалежні організації METR та Redwood Research запросили для розслідування. Перевірка, що спочатку мала тривати два дні, затягнулася на шість, і дослідники отримали повні дані лише під час останнього візиту.

Відповіді компаній

У METR та Redwood Research підтвердили, що важливі висновки залишилися незмінними, але зауважили, що надто критичні публікації можуть відлякати розробників від співпраці з незалежними експертами.

Anthropic зазначила, що контроль над публікаціями не відповідає їхнім домовленостям, адже дослідники самостійно вирішують, як перевіряти моделі. OpenAI, в свою чергу, стверджує, що не вимагає погоджувати тексти досліджень, а лише прибирає конфіденційні дані.

Наразі немає єдиних правил для незалежних перевірок ШІ, що дозволяє компаніям самостійно визначати умови доступу до своїх моделей та інформації.

Раніше dev.ua повідомляв, що понад 400 науковців з 34 країн закликали ізолювати потужні ШІ-моделі від інтернету до моменту, поки їх поведінка не буде надійно контрольована.

Джерело: dev.ua (https://dev.ua/news/openai-ta-anthropic-khochut-kontroliuvaty-shcho-rozpovidaiut-pro-ikhnii-shi-1791976052)