Крутые сборки люди делают под ИИ.

Чел собрал себе монстра: две RTX 6000 с общими 192 гигабайтами видеопамяти плюс 128 оперативки. В довесок - процессор Ryzen 7950X3D, который, по признанию самого автора, выглядит немного "скучно" в такой компании.

Система тянет Qwen 235B в квантованной версии, но главный страх у автора даже не в железе, а в том, что домашняя проводка на 15 ампер не выдержит и всё закончится пожаром :)

Цена в России ориентировочно от 1.6 до 2.2 млн р. за две RTX 6000 Ada плюс около 65–80 тыс. р. за Ryzen 7950X3D, итого в районе 1.7–2.3 млн р. без учёта остального железа и периферии. На вторичке ценник пары может опуститься ближе к 1.1–1.4 млн р, но зависит от состояния и гарантий.

По скорости - до 100 токенов в секунду (300 символов) для упомянутой ИИ.

Русский ИТ бизнес