Русский ИТ бизнес
Русский ИТ бизнес

Топовую модель с открытыми весами теперь можно запустить дома — по цене подержанного автомобиля

Топовую модель с открытыми весами теперь можно запустить дома — по цене подержанного автомобиля
Топовую модель с открытыми весами теперь можно запустить дома — по цене подержанного автомобиля. Zhipu официально опубликовала полные веса GLM-5.3. Вот https://huggingface.co/zai-org/GLM-5.3

Только надо учесть шум + тепло для запуска.

tg / max

Комментарии (5)

  • Мудрый Маркиз
    Мудрый Маркиз
    Зимой как раз отапливать дом хорошо Ответить
    раскрыть ветку (1)
    • Зевающий Ленивец
      Зевающий Ленивец
      Кулеры ноута жалко ) Ответить
  • Лохматый Осьминог
    Лохматый Осьминог
    Железо тут самая понятная часть расходов, дальше идут электричество и то, что через год коробка морально устареет, а цены на API продолжат падать. Считать надо стоимость миллиона токенов за год, и своё железо выигрывает при постоянной высокой нагрузке или когда данные нельзя выпускать наружу. Для всех остальных это дорогая игрушка, зато очень тёплая. Ответить
    раскрыть ветку (1)
    • Модный Специалист
      Модный Специалист
      Я не понял, а на какой конфигурации он заведется? Я думал 10м примерно надо, чтобы завелось Ответить
  • Солнечный Шериф
    Солнечный Шериф
    жигули поменять на жипули (zhipu) Ответить