Локальный ИИ стал намного проще

Локальный ИИ стал намного проще. ODS сам определяет характеристики компьютера, подбирает подходящую модель, скачивает её и запускает локальный инференс вместе с Open WebUI.

Через одну панель можно подключать голос, агентов вроде Hermes, RAG, поиск, генерацию изображений, рабочие процессы и другие инструменты.

Не нужен облачный сервис и подписка. Ваши запросы и данные остаются на вашем устройстве, если только вы сами не решите иначе.

https://github.com/Osmantic/ODS

tg / max