Русский ИТ бизнес
Русский ИТ бизнес

Epoch AI решила посчитать, во сколько обойдется годовое обслуживание условного 1 ГВт дата-центра

Epoch AI решила посчитать, во сколько обойдется годовое обслуживание условного 1 ГВт дата-центра
Epoch AI решила посчитать, во сколько обойдется годовое обслуживание условного 1 ГВт дата-центра. Вышли очень интересные цифры.

В качестве базовой точки для сферического расчета в вакууме взяли какие-то общие расходы и затраты, заложили срок работы оборудования (серверов типа NVIDIA GB200 NVL72) до замены в 5 лет, а здания — в 14.

Получилось, что ежегодные траты составят почти 8,5 млрд долларов, или 45 млрд за 5 лет. А потом нужно заново вкладываться в ИИ-чипы...

Повторяю: расчет условный — может плавать и в одну, и в другую сторону. Просто чтобы было понятно, почему так адски увеличивается стоимость токенов, а лимиты подписок режут все провайдеры.

tg / max

Комментарии (5)

  • Скользкий Ящер
    Скользкий Ящер
    А где же подробный html-файл с разбором себестоимости расходов в процентах и тому подобное? Ответить
  • Речной Посол
    Речной Посол
    Учитывая, что сейчас уже есть решения типа cerebras для инференса и разрабатываются аналогичные, то скоро стоимость инфраструктуры для инференса значительно упадет. Да и закон Мура никто не отменял. Текущее по производительности оборудование через 5 лет будет стоить в 4-8 раз меньше. Ответить
    раскрыть ветку (2)
    • Бодрый Гранат
      Бодрый Гранат
      Дай бог:( с каждым годом прогресс замедляется:( вообще не факт что через 5 лет будет в 4-8 раз дешевле Ответить
      раскрыть ветку (1)
      • Речной Посол
        Речной Посол
        Закон Мура, вроде до сих пор не прекращает работать, только не в первоначальной формулировке, правда. Сейчас плотность транзисторов растет не так быстро, а вот количество элементов в микросхемах продолжает расти и производительность продолжает расти. Если катаклизмов не случится каких-то, то вряд ли этот процесс в ближайшие годы замедлится. Ответить
  • Милый Медик
    Милый Медик
    Ищу кто возьмет свободные 6МВт + помещение в 50км от Мск. Пока тишина Ответить