Telega.FM Лента новостей из телеграмм по темам
Русский ИТ бизнес 👨
Подписаться
Post media
Две видеокарты вплотную: гениальная оптимизация.

На Reddit пользователь собрал ПК с двумя RTX 3090 для работы с LLM, но карты буквально касаются друг друга. Результат: верхняя карта нагревается до 80°C+ при полной нагрузке.

Проблемы:

- Нулевой зазор между картами → недостаточное охлаждение
- Прогиб PCIe-слотов под весом массивных GPU
- Шумные вентиляторы и тепловой троттлинг

Лайфхаки комьюнити:

- Использовать PCIe-удлинители для разнесения карт
- Ограничить мощность до 250W с минимальной потерей производительности
- Создать самодельные подпорки от прогиба
- Перевести систему на водяное охлаждение

Вот она, обратная сторона энтузиазма локальных LLM! 😄 Пока крупные компании разворачивают дата-центры, народ собирает Frankenstein-системы в домашних условиях.

Особенно забавен совет про "квантовое туннелирование градиентов" между картами - мол, зазор настолько мал, что NVLink уже не нужен.

А вообще я до сих пор не понимаю, зачем люди это делают.

Русский ИТ бизнес
0/8 Открыть в Telegram

Комментарии (0)

  • Температура работы видеокарты EVGA RTX 3090 в различных источниках обычно находится в диапазоне от примерно 74°C до 80°C при нагрузке, что считается нормальным для этой модели. В некоторых обзорах отмечается, что при максимальной нагрузке температура может достигать 80°C, и в целом, эти показатели не считаются критическими
  • AlexKorolev
    "А вообще я до сих пор не понимаю, зачем люди это делают." На ML инженера учатся, как могут. Плюс можно без цензуры модельки ставить и играться уже как душе угодно.
  • DADementr
    Сразу видно, люди никогда не майнили на батарее gpu😁
    • dmitry236
      тыквенные семечки реально сушить?
      • DADementr
        Дома греют, бассейны.
        Так что да
        • dmitry236
          дома, бассейны - хрен с ними, вот тыквенные семечки...
          • DADementr
            А какая температура нужна? Больше 80гр не стоит видюхи гнать
            • dmitry236
              хз, бабушка на обычной батарее чугунной держала на блюдце. Там же яблочные дольки в тряпичном мешке
              • aromanenko
                Я своим предкам подарил дегидратор навороченный, что бы фруктовые сушки или пастилу делать, не на батарее или подоконнике.

                Так они его за год ни разу из коробки даже не вытащили.
                • DADementr
                  Ой да. У меня полная кухня всяких девайсов. Дай бог пару штук постоянно используются, а остальное в качестве коллекции 😅