"Начал тестировать JEV который только начал хайпиться. Если вы вайбкодите, то срочно влетайте. Это точно новое направление в развитии моделей. Простыми словами: вместо привычной генерации токенов текста происходит генерация готовых json. Модель генерирует не токены контекста а именно РЕШЕНИЯ в виде json."
Я не совсем понимаю механизм - агенты смогут работать с этой моделью? Поделитесь опытом, если уже работали.
Комментарии (43)
оно реально прикольно, но настолько прикольно что как «о, надо потыкать» - норм. в продукт - не норм.
для себя я пока не нашел применения. честно искал. пытался натянуть на разные flow и суть в том, что та же астра на low effort это сделает…
1) красное
2) желтое
3) голубое
4) зеленое
jev расставляет вероятности напротив каждого ответа, и выдает результат в json, который затем используем в своем коде и думаем что делать дальше с этими вероятностями
тут явно нужны инве модели. и я не мовсем пока понимаю зачем там jev
Зачем, если можно скриптом? Нельзя
JEV цена $42 Per Billion input tokens (миллион входных токенов стоит $0,042. исходящие бесплатно)
Сканированных pdf в графике давно не встречал, в основном генеренка, которая легко читается без OCR.
С графическими файлами - да, без OCR не обойтись.
вот что предлагает
[ Сканы PDF ] ➔ 1. Локальный парсер/OCR (PaddleOCR / PyMuPDF) ➔ [ Текст/Разметка ] ➔ 2. Jev ➔ [ Готовый ответ ]Кстати, технология JEV уже есть в открытом виде
Laya / OpenJev — легковесные локальные open-source модели (около 395M параметров). Они могут работать полностью на CPU с 1–2 ГБ оперативной памяти, выдавая ответ за 25–300 мс
GLiNER — отличная open-source альтернатива для быстрой экстракции именованных сущностей в один проход
Ограничения
Маленькие open-source модели (395M) значительно уступают в качестве понимания контекста оригинальному облачному Jev от TypeSafe AI. Если в документах сложный юридический язык, локальная модель может путаться
сначала дешево превратить PDF в доступное для поиска представление
потом максимально дешево сузить пространство поиска
и только на последнем неоднозначном шаге использовать модель
Jev может оптимизировать именно последний шаг, но проблему анализа изображений он сейчас не решает (сейчас не значит что не будет)
зачем тут еще и JEV?) это самый последний слой, причем не самый дорогой
JEV цена $42 Per Billion input tokens (миллион входных токенов стоит $0,042. исходящие бесплатно)
а по факту есть понятное решение, которому в раниайме токены не нужны…
JEV цена $42 Per Billion input tokens (миллион входных токенов стоит $0,042. исходящие бесплатно)
если не смог распарсить - расширяет класс.
все.
Такое впечатление, что это генеренка.
Сам делал генеренку, когда управлял одном интернет магазином и делал динамические pdf, типа инструкций по эксплуатации с публикацией в карточке товара. Трафик давало, но ценности ноль, т.к. эта же информация была в карточке товара.
В дискорт там движуха
Мне нужно для конвейера любых программ buildy - уметь определять намерения пользователя, потому что выбор очень велик: blog, site, shop, cms, crm. ide, game, ops console, backend и так далее...
Сложность заключается в том, что подчинить конвейеру нужно четкие контракты, например Codex, но у Ops панели девопса другие сущности и тенанты. Под каждое намерение отдельный адаптер не вариант. Тут-то и поможет Jev сравнить и сопоставить структуры данных, чтобы вернуть юзеру не просто шаблон сайта, а шаблон + cms + ops под ключ. Задеплоил в один клик и все летает
Потом болтаешь с нейронкой и она добавляет фичи, разделы без ошибок и галлюцинаций. Ей просто негде ошибаться у нее строгий набор Jev селекторов. Уж тип записи product от типа записи portfolio любая 8b параметров такая как yandex точно отличит