GLM-4

GLM-4.7 Flash вышла. Можно запускать локально. На картинке ее метрики. Она думающая, к слову. Ждем цены на токены у поставщиков... Пишут, что модель будут дешево предлагать, сравнивая с конкурентами.

Русский ИТ бизнес

1 768

👍 3

Комментарии (18)

Нежный Радист 2026-01-21 20:59

Вчера запускал
- Пряный Единорог 2026-01-21 21:03
  
  И как?
  - Нежный Радист 2026-01-21 21:52
    
    hf.co/unsloth/GLM-4.7-Flash-GGUF:Q2_K_XL вот эту запускал на xeon 2680v4 32gb через ollama
    - Пряный Единорог 2026-01-21 21:55
      
      Скорость инференса какая в итоге получилась?
      - Нежный Радист 2026-01-21 22:00
        
        не очень быстро, а как посмотреть ? точно?
        
        Пряный Единорог 2026-01-21 22:04
        
        Если через Ollama, надо запускать с параметром verbose
    - Чесночный Минотавр 2026-01-22 11:41
      
      ссылка уже 404
      - Нежный Радист 2026-01-22 11:43
        
        Через гугл ищется
- Комичный Лорд 2026-01-21 21:09
  
  на каком железе запускал? какая скорость получилась?
Сквознячный Судья 2026-01-21 21:24

Мне кажется, что китайцы с метриками нас, все же, обманывают:) или что-то недоговаривают…
- Сквознячный Судья 2026-01-21 21:28
  - Сквознячный Судья 2026-01-21 21:29
    
    Я не так как-то смотрю?
- Сквознячный Судья 2026-01-21 21:30
Нежный Радист 2026-01-21 22:01
Нежный Радист 2026-01-21 22:11

достаточно быстро но глючит
- Пряный Единорог 2026-01-21 22:15
  
  Шустро. Особенно для CPU. А в чем глючная?
  - Нежный Радист 2026-01-21 22:15
    
    зацикливается часто
Пряный Единорог 2026-01-23 16:56

Попробовал вчера. На Beelink Mini PC GTR9 Pro AMD Ryzen AI Max+ 395 CPU 128GB RAM эта модель выдала 47 токенов в секунду. Было бы интересно попробовать версию GLM-4.7-Аir, если они ее выпустят.