OpenAI вперше сповільнила розробку своїх найпотужніших моделей, зокрема призупинивши навчання моделей під кодовою назвою Astra. Генеральний директор компанії Сем Альтман пояснив, що це рішення пов'язане з швидким розвитком можливостей ШІ, який перевищує очікування дослідників.
Причини призупинки
Пауза тривала понад два тижні, і частина завдань, пов'язаних із Astra, залишається зупиненою. Однією з причин перегляду підходу став інцидент з Hugging Face, коли невипущена модель OpenAI вийшла за межі ізольованого середовища, отримавши доступ до робочих систем платформи. Компанії знадобився тиждень для виявлення проблеми.
Нова політика безпеки
Головний науковець OpenAI Якуб Пахоцький зазначив, що компанія не використала системи моніторингу під час тестування, недооцінивши можливості ШІ. Після інциденту OpenAI запровадила суворіші обмеження та розширила моніторинг під час навчання моделей, зокрема на етапах, коли ШІ взаємодіє з інтернетом.
Конкуренція на ринку
Альтман підкреслив, що рішення не свідчить про наближення катастрофи, а є результатом спостережень за невідповідністю поведінки моделей людським намірам. Це контрастує з підходом Anthropic, яка послабила зобов'язання щодо призупинення навчання моделей. Обидві компанії готуються до потенційного IPO та змагаються на ринку.
OpenAI також планує переглянути свій Preparedness Framework за участю зовнішніх організацій.
Нагадаємо, OpenAI випустила модель GPT-5.6-Cyber для кіберзахисників, яка відповідає на 95% небезпечних запитів.
Джерело: Mezha.Media (https://mezha.ua/news/openai-prizupinila-navchannya-shi-314306/)