Jev стала рекордсменом серед моделей Vercel AI Gateway

Модель Jev, розроблена компанією TypeSafe, за добу стала популярною серед 13% платних команд Vercel AI Gateway. Ця ШІ-модель оптимізує прийняття рішень для програм і агентів, допомагаючи швидко обирати дії, такі як натискання кнопок чи виконання команд.

Vercel AI Gateway дозволяє розробникам інтегрувати різні ШІ-моделі через єдиний API, що спрощує процес. TypeSafe була заснована колишнім дослідником OpenAI Діогу Алмейдою, який працював над технологіями, що лягли в основу ChatGPT. Після запуску 15 вересня попит на Jev виявився настільки високим, що компанія не змогла обробити всі запити до API.

Особливості Jev

На відміну від ChatGPT, Jev не створює тексти чи коди. Модель отримує кілька варіантів дій та швидко обирає одну з них, надаючи також рівень впевненості у своєму виборі. Це дозволяє розробникам встановлювати правила для автоматизації процесів.

Наприклад, інженер Vercel Пранит Шарма тестував Jev для перевірки безпеки команд, де перевірка стала в 5–18 разів швидшою, а точність зросла. CTO Bryo AI Нікхіл Мудхолкар використовував Jev для сортування робочих листів, де модель виявилася в 10–20 разів дешевшою, ніж Gemini.

Ефективність та вартість

TypeSafe стверджує, що Jev обробляє запити за 70–500 мс, а вартість обробки 1 млн токенів складає $0,042. При цьому за вихідні токени платити не потрібно, оскільки модель не генерує текстових відповідей.

У тестах Jev демонструє до 193,6 разів швидше та до 444,6 разів дешевше результати в порівнянні з великими мовними моделями. Однак ці результати можуть відрізнятися у реальних сценаріях.

Джерело: dev.ua (https://dev.ua/news/jev-1789979578)