Telega.FM Лента новостей из телеграмм по темам
Русский ИТ бизнес 👨
Подписаться
Крутые сборки люди делают под ИИ.

Чел собрал себе монстра: две RTX 6000 с общими 192 гигабайтами видеопамяти плюс 128 оперативки. В довесок - процессор Ryzen 7950X3D, который, по признанию самого автора, выглядит немного "скучно" в такой компании.

Система тянет Qwen 235B в квантованной версии, но главный страх у автора даже не в железе, а в том, что домашняя проводка на 15 ампер не выдержит и всё закончится пожаром :)

Цена в России ориентировочно от 1.6 до 2.2 млн р. за две RTX 6000 Ada плюс около 65–80 тыс. р. за Ryzen 7950X3D, итого в районе 1.7–2.3 млн р. без учёта остального железа и периферии. На вторичке ценник пары может опуститься ближе к 1.1–1.4 млн р, но зависит от состояния и гарантий.

По скорости - до 100 токенов в секунду (300 символов) для упомянутой ИИ.

Русский ИТ бизнес
0/7 Открыть в Telegram

Комментарии (0)

  • YurikZebrov
    да, с проводкой засада , сейчас 800+800+500+500 по минимуму, хорошо что отдельные , уже в одну розетку не лезут, да и в одну комнату, что делать когда добавятся еще 1-2, хоть у тещи ставь 😁
    • 625115967
      А что мешает от вводного кабеля норм проводку кинуть?
      Проточные водонагреватели то по 10-15 киловатт от чего то питают 😁
      • YurikZebrov
        они ж питают не несколько часов подряд, так-то все работает, пока не натикает , я на ночь ставил все время вырубало, на квартиру 10квт, на фазу типа 3,5, но ... похоже это все же пиковое ну или в доме такое
    • mtrnkwas
      Когда у меня считаются эмбеддинги на карте, то свет во всей квартире как будто отстукивает морзянку.
      • YurikZebrov
        ну у меня автомат срабатывал, пока в разные комнаты не расставил, так-то нет, как обогреватель типа, не постоянно же, всплесками, но если постоянно - часов через несколько видимо нагрев и привет
  • cyberdel
    Все это напоминает крипто-лихорадку.
    • sualexx
      Ага. И соответственно даёт возможностей приподнять баблеца.
    • alexy_os
      Все это напоминает железный занавес на сша и в рф. Когда в списке белых сайтов будут только сбер и яндекс api. А huggingface не будет и придется покупать видеокарты на черном рынке и файлы gpt-oss контрабандой
  • BorisAB
    "Мам это для учёбы"
    • yuriuss
      интересно, что он там в домашних условиях решил сделать? )) просто локальную версию Qwen? ,)
      • BorisAB
        Можно в Третьих Героев играть.
  • dmitry236
    вот мне тоже смету электрики подготовили и там:

    кабель 3*1,5 - 224 метра
    кабель 3*2,5 - 252 метра
    кабель 2*1,5 - 140 метров
    кабель 2*0,75 - 70 метров

    А я в ChatGPT засунул и он говорит, что нельзя ничего прокладывать двумя последними, последним так точно, а 2х1.5 - типа в старых домах только было.

    Что за амперы, надо было физику в школе учить
    • alexy_os
      2 последних скорее всего под освещение и мелкие светильники типа бра. В розетку ни в коем случае нельзя без третьего провода под заземление
    • SMaiburov
      Дак + - и земля. Минимум три провода, раньше землю не кидали. Так что все что 2* уже старье
    • s17471s
      1.5*3 всё ок в розетки заходят, только с потом, ребята не хотят ебаться с пассатижами
    • YurikZebrov
      ну 2*0,75 это видимо светильники, другое дело что сейчас везде треки, а они могут быть и 220 (лучше не, риск все же есть), и тогда конечно побольше нужно
      • dmitry236
        а это что такое?)
  • username_ls_already_taken
    Хороший сварочник