Как объединить RTX 5080 и RTX 4060 для инференса LLM: гайд по гетерогенной сборке

Как объединить RTX 5080 и RTX 4060 для инференса LLM: гайд по гетерогенной сборке
Пошаговая инструкция по объединению RTX 5080 и RTX 4060 в одной системе для инференса больших языковых моделей. Включает тесты с Qwen, реальные цифры производительности, подводные камни и советы.
Ограничение: карты не поддерживают NVLink, обмен данными идет только по PCIe, что создает узкое место.
Читать статью →

Подписаться на канал