Gemini Decisions API: Google входит в гонку decision-моделей
Google выпустил «Gemini Decision 1» — API почти идентичен Jev: те же три типа вопросов (yes/no, choice, rubric-scoring), тот же термин «Noul» для бинарных. Цена — 10 центов за миллион входных токенов, вывод бесплатный. Ключевое отличие: полная мультимодальность — текст, изображения, аудио, видео и PDF. В тесте Саймона на видео модель вернула вероятности вместо жёстких 1.0/0.0: robot — 0.923, usa — 0.923, dragon — 0.049.
Почему важно: Если вы строите пайплайны с проверками «есть ли X в этом файле» — теперь это можно делать по видео и PDF одним вызовом, без предварительного извлечения кадров или текста. Дробные вероятности вместо бинарных ответов дают готовый порог для фильтрации.
Token Pooling-Aware Training: сжатие векторов без потери качества
Multi-vector эмбеддинги раздувают индекс: миллионы документов превращаются в сотни миллионов векторов. Token pooling объединяет похожие векторы токенов, а pooling-aware training учит энкодер сохранять важное именно при слиянии. С pool_factor=4 обычная модель удерживает 94.6% NanoBEIR nDCG@10 при 4-кратном сокращении векторов; pooling-aware training поднимает удержание до 97.8% при том же бюджете хранения.
Почему важно: Это прямой способ урезать индекс в 4 раза почти без потерь в качестве поиска. Метод воспроизводится через Sentence Transformers — можно применить к своему корпусу, а не ждать готовой сжатой модели.
Jev остаётся самым дешёвым среди decision-моделей — 4.2 цента за миллион токенов, но работает только с текстом и JSON. OpenAI принимает текст и изображения. Gemini Decision 1 — единственный, кто покрывает аудио, видео и PDF. Если в пайплайне только текст — переплачивать за мультимодальность смысла нет.
💳 Карта для оплаты AI
Комментариев пока нет.