AI-дайджест · 7 сентября

AI-дайджест · 7 сентября

P2P-инференс LLM во вкладках браузера
SwarmLLM запускает 27B-модель распределённо: написанный с нуля WebGPU-движок и WebRTC-рантайм разделяют модель между устройствами в комнате. Каждое устройство приносит свой кусочек, вместе они выполняют модель целиком.
Почему важно: показывает альтернативу серверному запуску больших моделей — инференс можно собрать из браузерных вкладок без центрального узла.
Читать →

Репозиторий на начальном этапе: 2 звезды, 1 форк, 30 открытых issues, 0 pull requests.