Детальная инструкция как по**баться, ой, запустить локальную ИИ модель на своем ПК. Вот здесь. Вообще этот сайт очень полезен тем, кто занимается ИИ довольно детально, т.к. там много полезных материалов.

Но еще раз ребзя - вы 10 раз подумайте, зачем вам это надо. Если вы занимаетесь вопросами дообучения ИИ, тогда да - это полезный опыт. А иначе - смысла не вижу.

Русский ИТ бизнес