А я все еще жду снижения цен на токены

Сейчас после подорожания оперативы ваши видюхи ушли бы в 5 раз дороже 😊

Так траты идут на новые дц.

если пузырь схлопнется, то железо подешевеет раз в пять. фабрики уже сделаны, R&D проведен. Стоимость железа = стоимость металла из которого сделано

а вам обязательно нужна супер умная модель, если перейти на 3B модельку, рерайт сильно хуже станет? эти модельки на айфоне локально запускаются уже, поставил задачу компу он и будет рерайтить целый день тебе, оплачивай электричество только

Да правильно говорит. Адекватная стоимость мастодонтов llm в 10 - 15 раз дороже. Это если их крутить в ноль, а чтобы заработать, надо бы еще поднять цену хотя бы 2 - 3 раза от адекватной (т.е. в 20 - 30 от текущей). Поэтому, - ии не лопнет. Расчет инвесторов на миллионы приложений вокруг llm, которые наберут аудиторию, трафик и оплаты. Затем, можно начинать взвинчивать цены и отбивать вложения

Так, за чей счет llm банкет? Только благодаря вложениям инвесторов, мастодонты стоят в десятки раз ниже рынка. А наши сбер и алиса, напротив, более менее в рынке.

Так что повышение цен на llm неизбежно, в т.ч. китайские. Тренд на локальные и их тонкую настройку или даже файнтюннинг

Надо уже сейчас об этом думать и учиться варить слабые модели типа 8b yandex gpt (работать на результат и нужную бизнес логику). Учиться готовить для них фактуру и промпты, делая модели прикладными и утилитарными. И учиться надо не откладывая, прямо сейчас, пока мастодонты ещё дешевые. То есть, гонять старшие модели, чтобы помогли создать паттерны и логику для младших моделей под узкие, специализированные, профильные задачи на результат выгодный бизнесу, когда рубль делает два и больше не теряя в качестве

в принципе логично, сначала сделали доступными нейросетки, подсадили на них пользователей. Какие-то бизнесы на них перешли, поувольняли сотрудников, кто-то деньги начал зарабатывать. А сейчас можно задрать цены

Конечно сбудется. Понятное дело, что все главные игроки на рынке ИИ демпингуют как не в себя, чтобы остаться на вершине горы (трупов), когда всё повалится

А не че что они так то и данные собирают , они вообще приплачивать должны 😂

Сегодня софтверные технологии снижают стоимость инференса сильно, всякие кэши там и отключение разных проверок полезных только в обучении, китайцы знают.