Telega.FM Лента новостей из телеграмм по темам
Русский ИТ бизнес 👨
Подписаться
Post media
8x AMD MI50 32GB, скорость 26 t/s c MiniMax-M2.1 и 15 t/s c GLM 4.7 (vllm-gfx906)... Прикиньте чел собрал монстрика и получил 40 символов в секунду генерации текста на очень хороших моделях. Цена? Не писал, но дороговато - уверен.

Хотите такую штуку на балкон? :) Вот и я не очень...

Русский ИТ бизнес
1866/16 Открыть в Telegram

Комментарии (8)

  • SergeyKhrushch
    На зиму в ящик вместо кондиционера
  • aleksandr_kreminskiy
    Вообще то оч дешево, на бу рынке такое можно найти за 500 баксов штука
    • gari_potnyi
      300-350$ такая стоит. Они дешевые. Но это еще они подорожали. 😁
  • shrdenis
    хорошая штука, просто надо посчитать совокупную стоимость владения и задачи которые решает, плюс данные не публичные обрабатывает, так что все от целей и задач
  • vld_aleks
    У меня на балконе стоит 4u с 3 mi50 32гб. Шумит дико, но сильно не греется.

    Летом в жару, под нагрузкой, не выше 60 С видеокарты, 75 процессор (эпик). gtp-oss 120b с полным контекстом - 50 тпс.

    Вся сборка обошлась в 120 тр. (mi50 брал до роста цен на них, по 20тр за штуку, дороже всего вышла серверная мать).

    Больше года, полет нормальный. Задачи - агентские системы с чувствительными данными
  • gari_potnyi
    Можно зимой не платить за отопление. 😁
  • maxicms
    Ага только за свет :)))))))
  • Danila_Ruzhnikov
    Собираю сейчас такую на 4 ми50 32 гб. Будет 128гб vram. Процессоры зеон 2695в4. Думаю будет норм.