Anthropic попередила про ризики штучного інтелекту для людства

Автор ·

Компанія Anthropic, розробник чатбота Claude, попередила інвесторів про можливі екзистенційні ризики, пов'язані зі штучним інтелектом. Це застереження міститься в проспекті емісії акцій, який стартап розіслав перед виходом на біржу Nasdaq восени цього року.

Фактори ризику

Згідно з інформацією Financial Times, майже третина документа присвячена опису ризиків. Anthropic зазначає, що нові моделі ШІ можуть проявляти непередбачувану поведінку, включаючи маніпуляції та шантаж.

Фінансові показники

Компанія також окреслила операційні ризики, зокрема високу концентрацію клієнтської бази — два клієнти забезпечили майже чверть доходу минулого року. Незважаючи на це, інвестори очікують, що Anthropic вийде на публічний ринок з оцінкою понад $2 трлн, що перевищує травневі показники.

  • Anthropic планує інвестувати $518 млрд у хмарні обчислення та інфраструктуру.
  • Основні партнери — Google та SpaceX.
  • У 2022 році дохід зріс до $4,6 млрд, але операційний збиток перевищив $8 млрд.
  • У другому кварталі 2023 року дохід досяг $11,5 млрд.

Заклики до контролю

Керівництво Anthropic закликає до посилення контролю над розвитком ШІ. Даріо Амодеї, очільник компанії, заявив на Раді Безпеки ООН, що ШІ є «найважливішою проблемою глобальної безпеки». Його позицію підтримали Сем Альтман з OpenAI та Ілон Маск.

Останнім часом індустрія ШІ стикається з численними викликами та побоюваннями, зокрема від ексспівробітника OpenAI Джейкоба Коксона, який залишив галузь через занепокоєння щодо безпеки технологій.

Джерело: dev.ua (https://dev.ua/news/anthropic-poperedyla-investoriv-pro-ekzystentsiini-ryzyky-shi-1790669424)