Керівники OpenAI та Anthropic готуються до можливих заворушень через ризики ШІ

Топменеджери OpenAI та Anthropic таємно розробляють сценарії можливих громадських і політичних заворушень через потенційні катастрофи, викликані штучним інтелектом. За інформацією Axios, технологічні лідери вважають, що серйозний інцидент може статися вже в найближчі 6–12 місяців.

Можливі сценарії катастроф

Найбільш ймовірною загрозою вважається масштабна кібератака, яка може призвести до відключення фінансових послуг, інтернету, електро- чи водопостачання. Це може викликати хвилю обурення серед населення, спрямовану на розробників, зокрема Сема Альтмана з OpenAI та Даріо Амодею з Anthropic, а також на владу через недостатнє регулювання.

Підготовка до кризових ситуацій

Представник OpenAI зазначив, що компанія проводить навчання для підготовки до різних сценаріїв, хоча вони не вважаються неминучими. Anthropic відмовилася коментувати ситуацію.

Зростання ризиків

Використання ШІ для атак стає все більш актуальним. Наприклад, нещодавно китайський хакер зламав два південнокорейських банки, використовуючи інструменти на базі моделей DeepSeek, і шукав можливості для продажу викрадених даних за допомогою Claude Code.

Плани щодо законодавства

Основна мета моделювань — підготовка законодавчої бази на випадок кризи. Хоча ухвалення суворих обмежень наразі виглядає малоймовірним, обговорюються пропозиції для політиків після інциденту. Можливі заходи включають як радикальні, такі як заборона

Джерело: dev.ua (https://dev.ua/news/topmenedzhery-openai-ta-anthropic-taiemno-hotuiutsia-do-masovykh-povstan-1791699373)