AgentGuard - небольшая библиотека, которая защищает разработчиков от чрезмерных расходов при работе с ИИ. Она автоматически следит за тем, сколько денег тратится на API-вызовы и прекращает выполнение кода, если они превышают установленный лимит. Например, если выставлен лимит в 50 долларов, то код остановится при его достижении, вместо того чтобы случайно потратить тысячу или больше.
При этом разработчик получает отчет с точной суммой и детальной статистикой расходов. Прикольно :)
Софт умеет отслеживать использование токенов в реальном времени, предупреждать при достижении 80 и 90% бюджета и работает с любыми популярными ИИ API OpenAI, Anthropic и другими.
Интересно... Мы руками ставим лимиты сейчас, типа 500 р. в день.
Русский ИТ бизнес
Русский ИТ бизнес 👨
Подписаться
Комментарии (0)
Не скажу, что активно использовал, но через пару дней подписка Про+ закончилась. Пришлось платные запросы покупать и это очень дорого.
В итоге думаешь, стоит ли брать за 200, если за 60 израсходовалась быстрее, чем раньше за 20.
Руками целые функции уже не хочется писать. Да и дебажить тоже.
Благо несколько инструментов есть, включая Gemini assist. Иногда некоторые вещи прям хорошо делает, а иногда 90% кода в файле сносит, потому что не увидел, где он еще используется.
Поскольку клиенты утверждали "деньги есть! мы не хотим никаких лимитов"