Девід Робінсон про причини звільнення з OpenAI та внутрішні суперечності компанії

Колишній керівник команди безпеки OpenAI Девід Робінсон поділився своїми думками після звільнення. Він зазначив, що, незважаючи на публічні попередження про загрози нових моделей, компанія продовжувала розробки без уповільнення.

Когнітивний дисонанс

Робінсон підкреслив, що існує «фундаментальний когнітивний дисонанс», коли компанія публічно застерігає про небезпеки, але при цьому тренує небезпечні моделі. Це суперечить ініціативам, які підтримують сотні співробітників OpenAI, що підписали відкритий лист «Pacing the Frontier» у липні, закликаючи до регулювання AI-розробок.

Атмосфера в OpenAI

За словами Робінсона, в OpenAI панувала «шалена» атмосфера, де працівники працювали на межі виснаження. Він описав це як «балет», де різні напрями зливаються в один потік, наповнений адреналіном.

Занепокоєння щодо ризиків

Інші дослідники також висловлювали занепокоєння, зокрема щодо рекурсивного самовдосконалення (RSI) штучного інтелекту. Головний науковий співробітник OpenAI Якуб Пачоцький у вересневому блозі наголосив на необхідності обережності в цей період.

Представники OpenAI не відразу прокоментували інтерв'ю Робінсона, але раніше заявляли, що вживають заходів для посилення безпеки моделей, запевняючи, що контролюватимуть їх можливості.

Джерело: dev.ua (https://dev.ua/news/devid-robinson-zaiavyv-pro-kohnityvnyi-dysonans-1791449353)