простите, там только видеокарта дороже чем якобы стоит весь комп
Ну и с каких пор скромный ПК это 64 гига оперативки? Я кажется что-то пропустил)
zerohold
по нынешним меркам, скромный :)
KhanvasSvoy
Макс кликбейтер 😁
Nemirovski
Или текст нейронка писала. 😂
P_Zakharevich
classic...
tghelp1
У меня ноут 8 оперативы на котором ещё и программирую.... пойду выкину с окна 😁
splash312
amd 5800x, smt off, 64gb ram, lm studio, gpu не задействована
если совсем все из памяти выгрузить, тогда эта модель влезает и не подкачивает данные с диска в процессе работы, выдает
5.22 tok/sec • 1429 tokens • 1.36s to first token • Stop reason: EOS Token Found
для таких скоростей видюха не нужна :) видюха нужна, если в ram не лезет, т.к. еще что-то запущено
anton_kolesnikov
Вот-вот. Сомнительное достижение на 3090. Умельцы запускают на 6гб vram, выгружая в оперативку всё, кроме attention layers — получается около 25t/s
vyatka
Скромном бл###
name_1234567890_name
Rtx 3090 хлам? Вы чем там курите блин, у 80 населения видеокарты выше 4гб нету
kirillswed
в использовании нейросетей с их требованиями 3090 это затычка в pci порт
Комментарии (0)
https://www.xcom-shop.ru/afox_geforce_rtx_3090_af3090-24gd6xh4_1083971.html
Ну и с каких пор скромный ПК это 64 гига оперативки? Я кажется что-то пропустил)
если совсем все из памяти выгрузить, тогда эта модель влезает и не подкачивает данные с диска в процессе работы, выдает
5.22 tok/sec • 1429 tokens • 1.36s to first token • Stop reason: EOS Token Found
для таких скоростей видюха не нужна :) видюха нужна, если в ram не лезет, т.к. еще что-то запущено