GLM 4.7 вышла. Хороша, чертовка. Насколько я понимаю, вы можете скачать ее отсюда https://huggingface.co/AaryanK/GLM-4.7-GGUF и поставить локально, если хватит железа. Размер 380 Гбайт, если нет квантизации.

В конце - концов, можно арендовать сервер с GPU и там развернуть, если обрабатываете конфиденциальные данные. Эта ИИ уступает проприетарным, но зато может работать локально (а уступает немного).

Русский ИТ бизнес