моё предложение пошло в массы))

сам бы мб себе поставил но очень не выгодно бу текущий ПК продавать

Надо хотя бы от 512гб рама, все что меньше баловство.

Имхо, какой-то сомнительный сетап под ИИ.

Да и смысл? Куча хороших нейронок по api бесплатно вообще.

Если прям критично, чтобы локальная была моделька, то вот это, по отзывам, ничего: https://www.nvidia.com/en-us/products/workstations/dgx-spark/

Согласен странное решение. А самое главное этот актив быстро падает в цене. А100 и Н100 в РФ достоваемы, при наличии бюджета конечно. Если средний бюджет то лучше DGX, как писали выше. Если бюджета нет, то колхоз из 3090/4090 или V100 на крайняк если денег мало… Если совсем бомж ИИ то и на instinct mi50 можно собрать (но тут уже не все взлетит). Короче я бы не стал… Но самое дешевое это купить у провайдера API, мне кажется и Сбер и Яндекс могут тут предложить что-то с требуемым уровнем комплаенса.

Я на новом ноуте локально пользую ии. 72тыс стоит. Да, токены почти бесплатные в инете. Мне 55 и знаю, что завтра возможно всё - не будет заграничного инета, а у меня хоть что-то останется от ии

В зависимости от модели. От 5 до 30, первый токен от 1 сек без думающей модели. Пользоваться можно без напряга ожидания