Русский ИТ бизнес
Русский ИТ бизнес

Был вопрос по кешу на 1app.ru - мы его УЧИТЫВАЕМ и цена сильно ниже

Был вопрос по кешу на 1app.ru - мы его УЧИТЫВАЕМ и цена сильно ниже
Был вопрос по кешу на 1app.ru - мы его УЧИТЫВАЕМ и цена сильно ниже. Иначе просто глупо, особенно для агентов типа Hermes или Harness (кстати, перевод с английского - упряжка). На дорогих моделях это очень важно и нужно.

Комментарии (55)

  • Робкий Шофер
    Робкий Шофер
    Добавьте плз ещё gemma4, gpt-oss-120 и jev Ответить
  • Аметистовый Колдун
    Аметистовый Колдун
    А что дороже даже чем у самого openai, с такими ценами и китайские поставщики не нужны можно напрямую к openai проксировать Ответить
    раскрыть ветку (8)
    • Голографический Пёс
      Голографический Пёс
      Дык тогда % сервис не заработает. Это очевидно. Ответить
      раскрыть ветку (7)
      • Аметистовый Колдун
        Аметистовый Колдун
        Спасибо что разъяснили, провайдеры небольшой процент от стоимости API сверху накидывают

        А если раздавать свою подписку на всех там выходят в сотни раз дешевле - именно этим занимаются китайские поставщики

        Максим по сути решил собрать киатйских поставщиков ими дирижировать, ТОЛЬКО по такой стоимости выгодко купить у любого провайдера который будет работать стабильнее и тд Ответить
        раскрыть ветку (6)
        • Королевский Лев
          Королевский Лев
          потом еще и Максим будет наши запросы публиковать типа "гляньте что ищат с ИИ" Ответить
        • Голографический Пёс
          Голографический Пёс
          Да. но как по мне в чате уже было предложение, сделать по себестоимости и набрать аудиторию. Или честно написать, что крутим +10-20-300%...
          А сейчас цена совсем не интересные.
          Она может быть обоснованной % на платежный шлюх + % на перегон бабок за границу + налоги и тд. Ответить
          раскрыть ветку (4)
          • Аметистовый Колдун
            Аметистовый Колдун
            ну да есть такие платформы только они работают хреновенько, вот чтобы работали стабильненько нужно) Ответить
            раскрыть ветку (2)
            • Голографический Пёс
              Голографический Пёс
              Я в омнироутер подключил десяток провайдеров и мне похер, кто там и когда лег!
              Автоматически переключился запрос на другого провайдера и все.... Ответить
              раскрыть ветку (1)
              • Аметистовый Колдун
                Аметистовый Колдун
                сколько выходит не считал ? например на сол-6.1 Ответить
          • Скользкий Ящер
            Скользкий Ящер
            Не знаю в принципе наверное половину потенциальных клиентов отсёк этим... Спрашивал пробник не дали ну фиг с ним в итоге повозился сам полдня нашёл другой вариант отличный. Ответить
  • Аметистовый Колдун
    Аметистовый Колдун
    то есть просто прокси к ИИ в чем суть я так и не понял, думал это будет копеечный апи по цене аналогов Ответить
    раскрыть ветку (7)
    • Робкий Киллер
      Робкий Киллер
      а на чьи бабульки устроить этот аттракцион щедрости? Ответить
      раскрыть ветку (6)
      • Аметистовый Колдун
        Аметистовый Колдун
        Блэт ребятки, я не понял смысл этого сервиса, если ты провайдишь подписки китайцев которые продают миллион токенов за 0.01 доллар, у которых работа максимально нестабильная

        И продаешь КАК обычный гатевей к апи - которые работают как минимум стабильнее за стоимость ДОРОЖЕ официального апи Ответить
        раскрыть ветку (5)
        • Робкий Киллер
          Робкий Киллер
          а что мешает по мере развития платформы добавить обычный гатевей к апи? ничто не мешает. просто придумают потом всякие ништяки типа: дешево не стабильно, стабильно но не всегда, всегда стабильно но дорого Ответить
          раскрыть ветку (4)
          • Аметистовый Колдун
            Аметистовый Колдун
            Кому мешает ? Ответить
            раскрыть ветку (3)
            • Робкий Киллер
              Робкий Киллер
              владельцу 1АПП Ответить
              раскрыть ветку (2)
              • Аметистовый Колдун
                Аметистовый Колдун
                Да я откуда знаю мешает или не мешает) Владельца может надо спросить ?) Ответить
                раскрыть ветку (1)
                • Робкий Киллер
                  Робкий Киллер
                  я верю, что он собирает с нас кастдев и фидбэк так что всё возможно Ответить
  • Лохматый Осьминог
    Лохматый Осьминог
    Макс, вопрос.

    А чем 1app отличается от того же BotHub?

    Ты просто хочешь «свое казино с блекджеком и …» или же у 1app есть нечто прорывное?

    тут прям интересно доя себя мне понять. какая у тебя мотивация это делать? Ответить
    раскрыть ветку (6)
    • Автор канала
      Автор канала
      я без понятия кто это. если честно не пытаюсь даже быть хитрым. Ответить
      раскрыть ветку (5)
      • Лохматый Осьминог
        Лохматый Осьминог
        хм.
        не, я предполагал, что ты не смотришь на конкурентов.. Ответить
        раскрыть ветку (4)
        • Автор канала
          Автор канала
          я не шучу. никогда не смотрю Ответить
          раскрыть ветку (3)
          • Лохматый Осьминог
            Лохматый Осьминог
            тупой вопрос: почему? Ответить
            раскрыть ветку (2)
            • Автор канала
              Автор канала
              не знаю. с веком ИИ щас таких проектов будет миллион - как бабочки однодневки Ответить
              раскрыть ветку (1)
              • Лохматый Осьминог
                Лохматый Осьминог
                пасиб за честный ответ Ответить
  • Туманный Гусь
    Туманный Гусь
    Макс, для удобства понимания, харнесс = все что не является моделью, но по большому счету выстроено вокруг нее для работы.

    По русски проще представить как своего рода обвязку-обертку вокруг работы ЛЛМ.

    Кодекс апп для ГПТ это харнесс, Клод-код для Клода харнесс. Да и по большому счету для установленной модели в терминал, терминал тоже харнесс.

    Работа ИИ-шки (равнозначно ИИ Агента):
    Промпт -> харнесс -> ЛЛМ -> харнесс -> ЛЛМ -> ... -> результат.

    Ты отправил промпт в терминал, он как харнесс отдал его ЛЛМ-ке. Сам харнесс задает способы взаимодействия для ИИ, например только read или write, контекстное окно и проч. ЛЛМ-ка запускается с харнесса, возвращается к нему и использует заданные им возможности, так до тех пор пока не придет к результату.

    Интерфейс, что можно, что нельзя, тулзы, loop-циклы, задаваемое контекстное окно, запуск агентов и прочие штуки - все это лежит в рамках харнесса

    Пример со стола:
    Я отправляю ID одной сессии в другую сессию, мне необходимо чтобы по этому ID сразу подхватился список данных, логи, транскрипт, местоположение в системе.

    Так, варианты реализации:

    А) Правило-инструкция у Агента.
    Агент распознал ID (или нет), и начинает джобу по инструкции

    Б) Без агента.
    В отправленном промпте найден ID, выполняется скрипт, агенту доходит не первоначальный, а расширенный промпт с данными по сессии.

    И то и то лежит в рамках харнесса. Но сама суть харнесса позволяет это выполнить таким образом. В первом случае например - подтянуть заданные правила, а во втором не ждать агента и его решений, выполнить скрипт и отдать расширенный промпт Ответить
    раскрыть ветку (12)
    • Туманный Гусь
      Туманный Гусь
      во, теперь исчерпывающе, надеюсь) Ответить
    • Металлический Страус
      Металлический Страус
      Харнесс это по факту в данный момент
      - доступные mcp
      - дефолтовые инструкции, зашитые в агента (Claude Code итп)
      - описание доступных инструментов (прочитать файл / записать файл / загуглить итп)

      Т.е. дефолтовое окружение для ллм, обвязка

      UPD:
      - забыл ещё упомянуть (меня @pvfomkin поправил 👍) всякие хуки / обработчики, то что работает без обращения к ллм Ответить
      раскрыть ветку (10)
      • Туманный Гусь
        Туманный Гусь
        Глянь пример реализации без правила агенту. Харнесс и его возможности немалость шире)

        В рамках определения харнесса ты например можешь вовсе убрать привычные команды и заставить модель работать по синтетическим, заданными тобой.

        Не read, а read_only-4erez_ety_huiny и типа того. Подключать не дефолтные, а конкретные правила под конкретную область задач в нужный момент и проч. Ответить
        раскрыть ветку (9)
        • Металлический Страус
          Металлический Страус
          Не очень понял. Пример реализации чего без правила агенту? В чём возможности харнесс шире?

          У меня есть среда с полностью самописным харнесом, без дефолтовых инструментов или инструкций. Ответить
          раскрыть ветку (8)
          • Туманный Гусь
            Туманный Гусь
            Работа с агентом, цикл: Промпт -> Харнесс -> ЛЛМ -> Харнесс -> ЛЛМ и так до результата.

            В шаге ЛЛМ-ки: правила + заданные харнессом возможности и проч..

            В шаге самого харнесса - выполнимое без агента. Это и скрипты, и смена инструкций, дополнение и еще масса всего, что коснется следующего шага ЛЛМ-ки Ответить
            раскрыть ветку (6)
            • Металлический Страус
              Металлический Страус
              А, ну да, соглашусь. Забыл упомянуть всякие хуки харнеса Ответить
            • Металлический Страус
              Металлический Страус
              выполнимое без ллм, ты имел в виду? Ответить
              раскрыть ветку (4)
              • Туманный Гусь
                Туманный Гусь
                раскрыть ветку (3)
                • Металлический Страус
                  Металлический Страус
                  да, согласен, про это забыл Ответить
                  раскрыть ветку (2)
                  • Туманный Гусь
                    Туманный Гусь
                    взаимно! хуки то самое слово, спасибо что назвал) Ответить
                    раскрыть ветку (1)
                    • Металлический Страус
                      Металлический Страус
                      дополнил свою месагу) Ответить
          • Скользкий Ящер
            Скользкий Ящер
            Написали аишки тебе собственный харнес? ну в принципе тоже неплохая идея)👍
            Ветка создаётся пересылается и скачивается тоже локально или как на github?? Ответить
  • Голографический Пёс
    Голографический Пёс
    сол не подключл, он у меня с подписки. обычно китайщину с таких шлюзов использую.
    Не хочу подписки плодить.

    Ну и вообще фронтир модели по API это кощунство, там цены... Это только для продакшена, для повседневки + разработке слишком дорого. Ответить
    раскрыть ветку (14)
    • Автор канала
      Автор канала
      я работаю повседневно Ответить
      раскрыть ветку (1)
      • Голографический Пёс
        Голографический Пёс
        Ну вручную можно слать запросы, они ничего не стоят. Если агент работает, там начинается трата. И по вашем же ценам, Одна сессия будет стоить, как пол подписки гпт.... Разве нет? Ответить
    • Аметистовый Колдун
      Аметистовый Колдун
      для каких задач в продакшене требуется именно фронтир, а условно луна или дипсик не подойдут ? (вопрос риторический)

      фронтиры для генерации видео даже иногда не требуются, большинство делает в небольших разрешениях на небольших модельках

      Я вон купил minimax за 22 доллара - по референсу можно генерировать до 4-х рилсов в неделю - при этом недельный лимит можно сбрасывать каждый день, тоесть это очень дешево по сравнению с тем же сиденсом который стоит 1к за 10-20 секунд видео Ответить
      раскрыть ветку (11)
      • Голографический Пёс
        Голографический Пёс
        Луна тащит любые задачи, я согласен.
        У меня гермес на луне работает. Ни одной осечки, всегда выполнят поставленные задачи.
        Программирует, исследует, тестирует. Короче все. дипсик тудаже, он подключается если gpt упал.

        Фронтир использую для проработки планов, мозгового штурма. Ответить
        раскрыть ветку (10)
        • Аметистовый Колдун
          Аметистовый Колдун
          к нас в разработке юзаю sol-6.1 Просто объем огромный
          Астру иногда юзаю для генерации фото делает очень круто
          Но думаю новые более сильные модели которые будут выходить - они уже не нужны, в них уже нет смысла Ответить
          раскрыть ветку (9)
          • Голографический Пёс
            Голографический Пёс
            Модель крута!
            Просто если не первый день в разработке, то огромная обвязка вокруг проектов. Скиллы, мсп, линтеры, автотесты, правила и тд.
            И даже тупая модель дает результат, да токены улетают.
            Сейчас gpt через день лимиты недельные сбрасывает или сбросы дает.
            А когда халява закончится, то одной кнопкой на шлюз перейду..

            И было бы круто иметь в запасе 1app для простых и дешевых моделей. Ответить
            раскрыть ветку (3)
            • Аметистовый Колдун
              Аметистовый Колдун
              Comment media
              реально лимитов накидали, мне еще 5к долларов насыпали на API из-за сокращения подписки 20x Ответить
              раскрыть ветку (2)
              • Прохладный Клон
                Прохладный Клон
                накидали то накидали но лучше бы 20х оставили, толку если 200$ кредитов за пол вечера отлетает Ответить
                раскрыть ветку (1)
                • Аметистовый Колдун
                  Аметистовый Колдун
                  на сол 6.1 работаем не отлетают, нам в принципе хватать стало, сол-6 и астра отлетали очень быстро Ответить
          • Голографический Пёс
            Голографический Пёс
            kimi 3 классная модель. Она все лето с 2.6 - 2.7 - 3.0 были бесплатными.
            Но цена их api..... Ответить
          • Скользкий Ящер
            Скользкий Ящер
            У вас тарифы наверное по 200 долларов???? Ответить
            раскрыть ветку (3)
            • Аметистовый Колдун
              Аметистовый Колдун
              да два тарифа по 200 Ответить
              раскрыть ветку (2)
              • Скользкий Ящер
                Скользкий Ящер
                Пипец и я посмотрел на 20 лимиты маленькие пришлось по-другому способы искать по сути наверное как 200 получу и по качеству отлично. Ответить
                раскрыть ветку (1)
                • Аметистовый Колдун
                  Аметистовый Колдун
                  Да, когда то подписки 20 долларов у гпт хватало на большинство задач, но с ростом фронтир модели, на гпт 5.5 уже требовалось 3 аккаунта, и так постепенно пришел к подписке на 200 Ответить
  • Металлический Страус
    Металлический Страус
    Нет.
    "Упряжка" в переводе на английский - "harness".
    А вот "harness" в переводе на русский гораздо шире по смыслу - и "упряжка" и "обвязка" и "шлейка" и "ремень безопасности".
    К примеру "альпинистская обвязка" - это тоже "harness". Мы ж не говорим, что "альпинистов запрягают".

    Поэтому в контексте ИИ правильный перевод - "обвязка".

    И, кстати, тут на днях про изучение языков говорили, мол нет уже смысла.
    Ну вот под рукой у всех в этом чате сколько разных ИИшек, а слово правильно перевести не получается. Ответить