LLMON: разметка контекста, которую LLM понимает нативно
IBM выпустила LLMON (LLM Object Notation) — язык разметки для явного описания структуры и семантики контекста. Семантические блоки оборачиваются в осмысленные теги с резервными спецтокенами-разделителями, схемы данных с вложенностью задаются однозначно для каузальной LLM, а уникальные ID позволяют привязывать инструкции к конкретным payload — как вызов функции с аргументами в программировании. Поддержка уже встроена в Granite 4.1 3B и 8B.
Почему важно: JSON не проектировался для digestion моделью — отсюда хрупкость малых LLM и уязвимость к prompt injection. Явная структурная разметка с bind по ID — это способ сделать агентные контексты из системного промпта, тул-вызовов и retrieved-документов предсказуемыми для модели.
Mubit: агент, который режет токены frontier-модели на 73%
Mubit — middleware между агентом и моделью, подключается изменением одной строки endpoint. Учится на каждом вызове и переносит повторяющиеся шаги на малые модели, дообученные на собственном трафике, — frontier-модель берёт только сложные. В связке с Neon агент работает на Neon Functions и Lakebase Postgres, каждый вызов идёт через Mubit к Neon AI Gateway; пример — data analyst агент, отвечающий на бизнес-вопросы.
Почему важно: Это не просто кэш или роутер — модель дообучается на вашем трафике и сама решает, какие шаги рутинизировать. Для продакшн-агентов с большим объёмом однотипных вызовов это прямой путь к снижению стоимости без переписывания пайплайна.
CopilotKit выпустили OpenBot 1.0 — MIT-лицензированного self-hosted AI-сотрудника со встроенным governance. Детали пока скудные, но сам факт: open-source агенты с управлением доступом и аудитом становятся отдельной категорией, а не фичей поверх SaaS.
💳 Карта для оплаты AI
Комментариев пока нет.