AiManual - База знаний по ИИ
AiManual - База знаний по ИИ

DeepSeek v4 Flash на DS4 DwarfStar: кастомные квантизации, тесты скорости и практический опыт 2026

DeepSeek v4 Flash на DS4 DwarfStar: кастомные квантизации, тесты скорости и практический опыт 2026
DS4 DwarfStar на Apple Silicon выдаёт 30+ ток/с против 15 в llama.cpp — двукратный прирост
Плата за скорость — нестабильность RPC: пустые сообщения и сбои воркера ломают вывод
Для кодинга и агентных сценариев прирост оправдан, но историю диалогов нужно нормализовать
Если стабильность критичнее — оставайтесь на llama.cpp
Читать статью →

Подписаться на канал

Комментариев пока нет.