Cloudflare додала до Workers AI модель @cf/google/embeddinggemma-2 від Google DeepMind. Це відкрита мультимодальна embedding-модель, яка відображає текст (включно з кодом), зображення, відео та аудіо у спільний 768-вимірний векторний простір. Це дає змогу реалізувати спільний пошук за змішаною колекцією товарів, документів і медіа, використовуючи лише текстові запити.
Модель підтримує понад 100 мов і покращує пошук за кодом порівняно з оригінальною EmbeddingGemma, що корисно для мультимовних баз знань і репозиторіїв коду. Довжина контекстного вікна становить 8 192 токени й є спільною для всього вмісту запиту.
Для економії простору сховища можна задати параметр dimensions і отримувати скорочені вектори розмірності 128, 256 або 512 замість базових 768 вимірів з невеликою втратою якості. Це спрощує побудову великих векторних індексів для спільного пошуку за текстом і медіа.
Текст передається через поле input, а зображення, відео й аудіо — у вигляді data URI у форматі base64 у масиві messages. При цьому можна додавати короткі префікси завдань, наприклад task: search result | query: ..., щоб налаштовувати ембеддинги під пошук, класифікацію, кластеризацію чи пошук схожості.
На момент запуску вартість використання EmbeddingGemma 2 у Workers AI становить $0.0017 за 1 млн вхідних токенів. Деталі доступні на сторінках моделі EmbeddingGemma 2 та pricing.
const response = await env.AI.run("@cf/google/embeddinggemma-2", {
messages: [
[
{
role: "user",
content: [
{ type: "text", text: "Waterproof running shoes." },
{ type: "image_url", image_url: { url: imageDataUri } },
],
},
],
[
{
role: "user",
content:
"task: search result | query: waterproof shoes for trail running",
},
],
],
});Джерело: Cloudflare Changelog