Google DeepMind заснувала інститут для безпечного розвитку ШІ

Автор ·

Google DeepMind оголосила про запуск DeepMind Institute, який зосередиться на безпечному розвитку загального штучного інтелекту (AGI) та його впливу на суспільство.

Основні цілі інституту

Інститут має на меті об'єднати дослідників з Google, Google DeepMind і ширшої наукової спільноти. Важливо, що дискусії про AGI повинні включати не лише технологічні компанії, але й уряди та представників гуманітарних наук.

Керівництво та публікації

Очолили інститут Шейн Легг, Джеймс Маніка та Деміс Хассабіс. Разом із запуском було опубліковано чотири матеріали, які охоплюють:

  • економічну політику в епоху AGI;
  • збереження зрозумілого процесу міркування моделей;
  • принципи суспільного розвитку;
  • систему оцінювання передових моделей ШІ.

Попередження та пропозиції

Дослідники Рохін Шах та Анка Драган зазначають, що нові моделі можуть стати менш прозорими, що ускладнить виявлення обману. Вони пропонують оцінювати прозорість моделей та перевіряти методи їх навчання.

Деміс Хассабіс виступив з ініціативою створення органу зі стандартизації ШІ в США, який би перевіряв моделі перед їх випуском на ринок. Це включатиме оцінювання ризиків у різних сферах, а також контроль за дотриманням безпеки.

Матеріали інституту відображають думки авторів і не є офіційною позицією Google, допускаючи різні погляди та перегляд висновків у міру нових даних.

Джерело: Mezha.Media (https://mezha.ua/news/google-deepmind-institute-315316/)