Науковець OpenAI закликає до обережності у розвитку ШІ

Автор ·

Головний науковець OpenAI Якуб Пачоцкі попередив про небезпеки швидкого розвитку штучного інтелекту, зазначивши, що технології стають все складнішими для розуміння та контролю.

Він вважає, що лабораторії з розробки ШІ повинні добровільно уповільнити свою роботу, поки не будуть встановлені спільні стандарти безпеки. Пачоцкі підкреслив, що сучасні ШІ-моделі вже здатні керувати комп'ютерами, співпрацювати з людьми та виконувати наукові дослідження, а в майбутньому можуть самостійно вдосконалюватися.

Варіанти для розробників

Науковець вважає, що розробники мають два шляхи: або спрямувати розвиток ШІ відповідно до людських інтересів, або уповільнити темпи роботи. Він сподівається, що практика добровільних пауз стане звичною, поки не будуть визначені чіткі межі безпеки.

Ця позиція підтримується іншими експертами, такими як генеральний директор Anthropic Даріо Амодей, який закликав до жорсткого регулювання передових ШІ-моделей. Генеральний директор OpenAI Сем Альтман також висловлював подібні думки, але зазначив, що індустрія недостатньо інформує суспільство про переваги технології.

Розвиток технологій та інвестиції

Незважаючи на ризики, компанії продовжують розробляти нові моделі. Генеральний директор NVIDIA Дженсен Хуанг зазначив, що «загальний штучний інтелект вже тут», коментуючи вихід моделі GPT-6 Astra від OpenAI, доступної за $20 на місяць.

Інвестори активно вкладають у проєкти самовдосконалюваного ШІ. Стартап Inherent отримав $50 мільйонів інвестицій, а Recursive Superintelligence залучив $650 мільйонів під керівництвом Річарда Сочера.

Джерело: Mezha.Media (https://mezha.ua/news/golovniy-naukovec-openai-zaklikav-prizupiniti-rozvitok-shi-314974/)