GLM-4

GLM-4.7 Flash вышла. Можно запускать локально. На картинке ее метрики. Она думающая, к слову. Ждем цены на токены у поставщиков... Пишут, что модель будут дешево предлагать, сравнивая с конкурентами.

Русский ИТ бизнес

1 768

👍 3

Комментарии (18)

Нежный Радист 2026-01-21 20:59

Вчера запускал Ответить

раскрыть ветку (8)
- Пряный Единорог 2026-01-21 21:03
  
  И как? Ответить
  
  раскрыть ветку (6)
  - Нежный Радист 2026-01-21 21:52
    
    hf.co/unsloth/GLM-4.7-Flash-GGUF:Q2_K_XL вот эту запускал на xeon 2680v4 32gb через ollama Ответить
    
    раскрыть ветку (5)
    - Пряный Единорог 2026-01-21 21:55
      
      Скорость инференса какая в итоге получилась? Ответить
      
      раскрыть ветку (2)
      - Нежный Радист 2026-01-21 22:00
        
        не очень быстро, а как посмотреть ? точно? Ответить
        
        раскрыть ветку (1)
        
        Пряный Единорог 2026-01-21 22:04
        
        Если через Ollama, надо запускать с параметром verbose Ответить
    - Чесночный Минотавр 2026-01-22 11:41
      
      ссылка уже 404 Ответить
      
      раскрыть ветку (1)
      - Нежный Радист 2026-01-22 11:43
        
        Через гугл ищется Ответить
- Комичный Лорд 2026-01-21 21:09
  
  на каком железе запускал? какая скорость получилась? Ответить
Сквознячный Судья 2026-01-21 21:24

Мне кажется, что китайцы с метриками нас, все же, обманывают:) или что-то недоговаривают… Ответить

раскрыть ветку (3)
- Сквознячный Судья 2026-01-21 21:28
  
  Ответить
  
  раскрыть ветку (1)
  - Сквознячный Судья 2026-01-21 21:29
    
    Я не так как-то смотрю? Ответить
- Сквознячный Судья 2026-01-21 21:30
  
  Ответить
Нежный Радист 2026-01-21 22:01

Ответить
Нежный Радист 2026-01-21 22:11

достаточно быстро но глючит Ответить

раскрыть ветку (2)
- Пряный Единорог 2026-01-21 22:15
  
  Шустро. Особенно для CPU. А в чем глючная? Ответить
  
  раскрыть ветку (1)
  - Нежный Радист 2026-01-21 22:15
    
    зацикливается часто Ответить
Пряный Единорог 2026-01-23 16:56

Попробовал вчера. На Beelink Mini PC GTR9 Pro AMD Ryzen AI Max+ 395 CPU 128GB RAM эта модель выдала 47 токенов в секунду. Было бы интересно попробовать версию GLM-4.7-Аir, если они ее выпустят. Ответить