Сейчас после подорожания оперативы ваши видюхи ушли бы в 5 раз дороже 😊
David_Tamoyan
Ну не в 5 раз. Все же не за три сотни тысяч, а на на 10-15 тысяч рублей бы максимум.
McConst
Ну вот. Максим теперь махнёт рукой. А мог бы пост написать, что видюхи задёшево продал.
permanent_injury
Так траты идут на новые дц.
345997686
Траты идут на всё: на новые ЦОД, на генерацию, на закупку критических комплектующих впрок, чтобы конкурентам не досталось, и даже на финансовые вливания по кругу, чтобы удержать кэшфлоу на бирже
alef_nul
если пузырь схлопнется, то железо подешевеет раз в пять. фабрики уже сделаны, R&D проведен. Стоимость железа = стоимость металла из которого сделано
mtrnkwas
Электричество
noobmaster111
а вам обязательно нужна супер умная модель, если перейти на 3B модельку, рерайт сильно хуже станет? эти модельки на айфоне локально запускаются уже, поставил задачу компу он и будет рерайтить целый день тебе, оплачивай электричество только
Albert_Galin
Сталкивался с тем что у малых моделей пока плохо с русским языком. Может конечно что-то изменилось сейчас
alexy_os
Да правильно говорит. Адекватная стоимость мастодонтов llm в 10 - 15 раз дороже. Это если их крутить в ноль, а чтобы заработать, надо бы еще поднять цену хотя бы 2 - 3 раза от адекватной (т.е. в 20 - 30 от текущей). Поэтому, - ии не лопнет. Расчет инвесторов на миллионы приложений вокруг llm, которые наберут аудиторию, трафик и оплаты. Затем, можно начинать взвинчивать цены и отбивать вложения
Так, за чей счет llm банкет? Только благодаря вложениям инвесторов, мастодонты стоят в десятки раз ниже рынка. А наши сбер и алиса, напротив, более менее в рынке.
Так что повышение цен на llm неизбежно, в т.ч. китайские. Тренд на локальные и их тонкую настройку или даже файнтюннинг
Надо уже сейчас об этом думать и учиться варить слабые модели типа 8b yandex gpt (работать на результат и нужную бизнес логику). Учиться готовить для них фактуру и промпты, делая модели прикладными и утилитарными. И учиться надо не откладывая, прямо сейчас, пока мастодонты ещё дешевые. То есть, гонять старшие модели, чтобы помогли создать паттерны и логику для младших моделей под узкие, специализированные, профильные задачи на результат выгодный бизнесу, когда рубль делает два и больше не теряя в качестве
modflow
в принципе логично, сначала сделали доступными нейросетки, подсадили на них пользователей. Какие-то бизнесы на них перешли, поувольняли сотрудников, кто-то деньги начал зарабатывать. А сейчас можно задрать цены
345997686
Конечно сбудется. Понятное дело, что все главные игроки на рынке ИИ демпингуют как не в себя, чтобы остаться на вершине горы (трупов), когда всё повалится
709864982
А не че что они так то и данные собирают , они вообще приплачивать должны 😂
709864982
Сегодня софтверные технологии снижают стоимость инференса сильно, всякие кэши там и отключение разных проверок полезных только в обучении, китайцы знают.
Комментарии (14)
Так, за чей счет llm банкет? Только благодаря вложениям инвесторов, мастодонты стоят в десятки раз ниже рынка. А наши сбер и алиса, напротив, более менее в рынке.
Так что повышение цен на llm неизбежно, в т.ч. китайские. Тренд на локальные и их тонкую настройку или даже файнтюннинг
Надо уже сейчас об этом думать и учиться варить слабые модели типа 8b yandex gpt (работать на результат и нужную бизнес логику). Учиться готовить для них фактуру и промпты, делая модели прикладными и утилитарными. И учиться надо не откладывая, прямо сейчас, пока мастодонты ещё дешевые. То есть, гонять старшие модели, чтобы помогли создать паттерны и логику для младших моделей под узкие, специализированные, профильные задачи на результат выгодный бизнесу, когда рубль делает два и больше не теряя в качестве