Сем Альтман, співзасновник OpenAI, розповів, що компанія майже відмовилася від традиційної системи оплати за токени для нової ШІ-моделі, плануючи запровадити фіксовану плату за виконане завдання. Однак через негативну реакцію розробників від цієї ідеї довелося відмовитися.
Фіксована плата замість токенів
Під час подкасту Cheeky Pint Альтман зізнався, що OpenAI «майже ухвалила дуже хибне рішення». Нова модель передбачала, що розробник надсилає запит, а система одразу надає підсумкову ціну за виконання. Альтман зазначив, що це мало працювати подібно до хмарних сервісів AWS, без покрокового підрахунку токенів.
Чому розробники виступили проти
Під час тестування концепції OpenAI зіткнулася з жорстким спротивом. Основна проблема полягала в непрозорості: розробники хотіли розуміти, за що саме вони платять. Витрати на відстеження токенів є критично важливими для прогнозування бюджетів проектів, тому непрозорий цінник ускладнив би цю задачу.
Готовність переплачувати за прозорість
Альтман зазначив, що розробники висловили готовність платити більше за зрозумілу метрику, навіть якщо ціна за токени зросте. Вони вважають, що прозорість у ціноутворенні важлива для довгострокового планування.
Токени як «штучна одиниця виміру»
Обговорення виникло після запитання Джона Коллісона про доцільність токенів як метрики для оцінки використання ШІ. Альтман визнав, що токени мають недоліки, хоча альтернативи поки немає. Він підкреслив, що розробники витрачають багато зусиль на вибір між моделями через цю систему.
Незважаючи на недоліки токенної системи, OpenAI залишає токени основною валютою розрахунків, оскільки ринок не готовий до непрозорих альтернатив.
Джерело: dev.ua (https://dev.ua/news/sem-altman-led-ne-skasuvav-oplatu-za-tokeny-v-openai-1793342264)