Русский ИТ бизнес 👨
Подписаться
Post media
Если взять 4 штуки MacMini M4 (у меня такой стоит на работе, с него пишу строки), связать в кластер, то вы сможете локально запустить Kimi K2 Thinking со скоростью 28.3 t/s (100 символов в секунду). И это будет 100% бесшумно и очень незатратно по электричеству.

Цена сборки, полагаю, около 350к. на круг. Не шумит, не греется, место занимает мало.

Русский ИТ бизнес

Комментарии (0)

  • MyBests
    На сколько позволит такая сборка увеличить количество постов в канал ?
    • GroupAnonymousBot
      я руками пишу
  • Channel_Bot
    но зачем кластер из 4, если по графику видно что 2 кластера по 2 даст 43 токена в секунду, но в паралель
  • StasDoDesign
    Вижу только флаги страны с которой у нас сво

    Что за агитация Максим?)))
    Цветкор дизайнеру отдать и перезалить

    Но в Питере у вас там много таких сочувствующих и агетаторов))
    • dmitry236
      а сало там не видно?
      • StasDoDesign
        Смазкой видел между жёлтыми и голубыми линиями, чёрный цвет это оно, в перце же
    • AndreNorte
      Comment media
      А тут? Тут видишь?🤔
      • StasDoDesign
        Нет
      • uglev
        Тут "вечер с Владимиром Соловьевым" на "Россия 24" видно. Вроде и скрепненько, но на эплтиви 😁
        • AndreNorte
          На скрине вообще агент китайской разведки, если что😂
  • kirillswed
    ну не надо вот это пропагандировать, на мак еще ипотеку начать брать не хватало
    • AndreNorte
      Дык в том и суть, что на миниках выходит относительно дешево
  • einperegrin
    но зачем это всё? сколько будет стоить доступ по api к моделям такого качества? точнее так - сколько лет за эту сумму можно генерить эти тексты на дешёвых облачных модельках? что-то мне кажется, больше, чем срок службы миника
    • dmitry236
      это если их в белый список сайтов внесут
  • einperegrin
    есть vpn, или можно свой софт поставить на серверах внешнего интернета, где белых списков нет
  • amusinov
    в одном посте, то покупай то покупай токены…
    • dmitry236
      мы все здесь в абьюзивных отношениях с эмоциальными качелями