Q2-FP8 квантование Qwen 3.6: агентные способности под ножом? Результаты Terminal Bench 2 и GPQA

Q2-FP8 квантование Qwen 3.6: агентные способности под ножом? Результаты Terminal Bench 2 и GPQA
Агрессивное квантование Q2-FP8 сжало вес Qwen 3.6 в 4 раза, но на Terminal Bench 2 точность упала с 72% до 61%. Это всё ещё выше многих моделей в полной точности.
Такой компромисс между размером и агентными способностями делает локальный запуск мощных моделей реальным без катастрофической потери качества.
Читать статью →

Подписаться на канал