Стоимость доступа к ИИ по API. 2 рубля за 1 млн. токенов. А сколько у нас цена за 1 КВт электричества? Около 4 руб.
Вот можете прикинуть, если делать сервер дома для ИИ, реально ли получить за 1 Квт электричества обработку на вход 2 млн. токенов (это порядка 6 млн. символов русского языка).
Русский ИТ бизнес
Русский ИТ бизнес
26 ноя 2025 09:35
Поэтому и говорю что не выгодно делать самому
Поэтому обычному юзеру онлайн выгоднее, на их мощностях.
В будущем (неоднократно обещано) ценник, скорее всего, повысится неиллюзорно.
По электричеству уже делали расчёты. Пользоваться чужими нейронками гораздо выгоднее получается , чем разворачивать самому. Это даже не считая закупа оборудования и надо во всем самому разбираться, а это тоже время, компетенции, деньги.
Я также начинал со своих видеокарт. В результате стоят теперь без дела. Только крутятся по тихоньку для nsfw темы.
radeoт 7900xtx - самая выгодная по цене 1 кВ за 1 токен. По скорости проигрыш 4090, 20%. Но сильно экономичнее в закупе (-x3). и электричества на 200 кВ в час меньше потребляют и той же 24 Gb памяти.
Хотел затариваться H100, но вовремя остановился, посчитал, прослезился.
А 7900 уже год шуршат, ни одного сектора памяти не повреждено. Так что все путем. И да еще факт, который надо учитывать. Когда у тебя 1 видеокарта - ладно хрен с ним. Когда у тебя их 10-20 в комнате стоит жара. Баня. + тратить надо на вытяжку. А это еще 1кв в час минимум. Дома ставить - тупо опасно. Отдельное оборудованное помещение. + 3 Карты (максимум) на 1 кабель 2.5 сечения, Так что это еще затраты на электрику.
Короче по всем фронтам - свои видеокарты это минусово. Года 2 назад было прибыльно.
Тот же Stable Diffusion был впереди многих, а сейчас ему не тягаться с той же Banana v3.
А теме nsfw - там по барабану сколько за фотку стоит :)
В чатах айтишников подробно разжевали вопрос: разворачивать локально модели в домашних условиях невыгодно.
Только если вы не большой корпорат, которому по разным соображениям нужны свои LLM-ки под боком.