Фикс шаблона Qwen3.5 vision в vllm: как обновиться и избежать багов с изображениями

Фикс шаблона Qwen3.5 vision в vllm: как обновиться и избежать багов с изображениями

Недавний PR в vllm исправил критический баг в chat template, из-за которого Qwen3.5 vision игнорировала картинки при мультимодальных запросах. Для устранения требуется обновить vllm до версии >=0.8.2.

Без этого исправления модель остаётся «слепой» — визуальный поток не формируется, что делает использование Qwen3.5 vision бесполезным для задач с изображениями.

Читать статью →

Подписаться на канал