Русский ИТ бизнес
Русский ИТ бизнес

Две видеокарты вплотную: гениальная оптимизация.

На Reddit пользователь собрал ПК с двумя RTX 3090 для работы с LLM, но карты буквально касаются друг друга. Результат: верхняя карта нагревается до 80°C+ при полной нагрузке.

Проблемы:

- Нулевой зазор между картами → недостаточное охлаждение
- Прогиб PCIe-слотов под весом массивных GPU
- Шумные вентиляторы и тепловой троттлинг

Лайфхаки комьюнити:

- Использовать PCIe-удлинители для разнесения карт
- Ограничить мощность до 250W с минимальной потерей производительности
- Создать самодельные подпорки от прогиба
- Перевести систему на водяное охлаждение

Вот она, обратная сторона энтузиазма локальных LLM! 😄 Пока крупные компании разворачивают дата-центры, народ собирает Frankenstein-системы в домашних условиях.

Особенно забавен совет про "квантовое туннелирование градиентов" между картами - мол, зазор настолько мал, что NVLink уже не нужен.

А вообще я до сих пор не понимаю, зачем люди это делают.

Русский ИТ бизнес
  • Кибернетический Пирог
    Кибернетический Пирог
    Температура работы видеокарты EVGA RTX 3090 в различных источниках обычно находится в диапазоне от примерно 74°C до 80°C при нагрузке, что считается нормальным для этой модели. В некоторых обзорах отмечается, что при максимальной нагрузке температура может достигать 80°C, и в целом, эти показатели не считаются критическими Ответить
  • Ленивый Трубочист
    Ленивый Трубочист
    "А вообще я до сих пор не понимаю, зачем люди это делают." На ML инженера учатся, как могут. Плюс можно без цензуры модельки ставить и играться уже как душе угодно. Ответить
  • Добрый Павлин
    Добрый Павлин
    Сразу видно, люди никогда не майнили на батарее gpu😁 Ответить
    раскрыть ветку (7)
    • Раздражительный Жираф
      Раздражительный Жираф
      тыквенные семечки реально сушить? Ответить
      раскрыть ветку (6)
      • Добрый Павлин
        Добрый Павлин
        Дома греют, бассейны.
        Так что да Ответить
        раскрыть ветку (5)
        • Раздражительный Жираф
          Раздражительный Жираф
          дома, бассейны - хрен с ними, вот тыквенные семечки... Ответить
          раскрыть ветку (4)
          • Добрый Павлин
            Добрый Павлин
            А какая температура нужна? Больше 80гр не стоит видюхи гнать Ответить
            раскрыть ветку (3)
            • Раздражительный Жираф
              Раздражительный Жираф
              хз, бабушка на обычной батарее чугунной держала на блюдце. Там же яблочные дольки в тряпичном мешке Ответить
              раскрыть ветку (2)
              • Топающий Скелет
                Топающий Скелет
                Я своим предкам подарил дегидратор навороченный, что бы фруктовые сушки или пастилу делать, не на батарее или подоконнике.

                Так они его за год ни разу из коробки даже не вытащили. Ответить
                раскрыть ветку (1)
                • Добрый Павлин
                  Добрый Павлин
                  Ой да. У меня полная кухня всяких девайсов. Дай бог пару штук постоянно используются, а остальное в качестве коллекции 😅 Ответить