Жёсткие лимиты бюджета должны стоять по умолчанию
Simon Willison разбирает, почему сервисам с оплатой по использованию нужны hard budget caps — жёсткое отключение после $X/месяц с возвратом ошибок, а не «warning email». Отдельно отмечает, что AWS наконец запустила spending limits несколько недель назад — в анонсе от 16 сентября упоминается возможность задать месячный лимит трат для проекта.
Почему важно: Агенты радикально снижают порог создания кода, который тратит деньги на API и хостинг. Если ваш сервис позволяет агентам платить за использование — жёсткий лимит по умолчанию это не фича, а защита от ночного счёта на тысячи долларов.
ThinkingBox: оценка агента по состоянию базы, а не по тексту ответа
Microsoft и Hugging Face выложили ThinkingBox — фреймворк, который запускает агента в изолированных MCP-сессиях и оценивает конечное состояние бэкенда и side effects, а не сгенерированные предложения. В примере агент сделал девять tool calls, корректно прочитал refund policy и закрыл тикет как resolved — но требуемое конечное состояние было on hold, и клиент так и не получил ответа.
Почему важно: Tool call — это не результат, а один успешный прогон — не надёжность. Если вы строите агентов поверх MCP, проверяйте не «что модель сказала», а что реально записалось в базу после её действий.
Google Research переносит федеративное обучение в TEE: Gboard теперь тренируется с externally verifiable differential privacy. Детали пока недоступны, но направление — обучение на пользовательских данных с доказуемой приватностью, а не обещанием приватности.
Карта для оплаты AI · Claude Pro на неделю · Manus
Комментариев пока нет.