AI-дайджест · 18 сентября

AI-дайджест · 18 сентября

Тернарная модель на 5.9 ГБ сохраняет 98.2% производительности Qwen3.8 27B
PrismML выпустили Ternary Bonsai 2 27B — модель с тернарным квантованием, Apache 2.0, размер 5.9 ГБ, удерживает 98.2% производительности Qwen3.8 27B.
Почему важно: производительность уровня 27B при размере 5.9 ГБ и открытой лицензии Apache 2.0 снижает порог для экспериментов с сильными моделями на локальном железе.
Читать →

Локальный семантический поиск для агента на Rails-монолите в 3,5M+ строк
Автор построил полностью локальный инструмент для Claude Code на базе Ollama + Qdrant: код, эмбеддинги и граф вызовов не покидают машину. Проблема — агент не находит логику, которую разработчик находит за две минуты: grep даёт сотню совпадений, а словари расходятся (invoice в коде называется bill, payment живёт под третьим именем).
Почему важно: если агент не справляется с поиском по большой кодовой базе из-за разрыва доменных и кодовых словарей, локальный семантический индекс на Ollama + Qdrant — вариант попробовать, не отдавая код наружу.
Читать →

Simon Willison: быть computer scientist, который отказывается находить что-либо интересное в LLM, — как быть генетиком, который не хочет замечать недавно открывшийся Jurassic Park.