Русский ИТ бизнес
Русский ИТ бизнес

Китайские модели выросли с 1% до 30% всего использования LLM, всего за несколько дней

Китайские модели выросли с 1% до 30% всего использования LLM, всего за несколько дней
Китайские модели выросли с 1% до 30% всего использования LLM, всего за несколько дней. Open source огромный win-win для всего мира.

tg / max

Комментарии (45)

  • Робкий Киллер
    Робкий Киллер
    Comment media
    В то же время русские юзают Курсор + Грок за 12 долларов для 32 млн токенов

    без VРN
    без изысканий где дешевле
    без подвоха

    чисто, легально, экономно

    на скриншоте сайт создан за 2 минуты в среде BunJs и серверах курсора силами Грок 4.5

    Просыпайтесь Ответить
    раскрыть ветку (42)
    • Полуночный Архитектор
      Полуночный Архитектор
      это не очень и экономно так то Ответить
      раскрыть ветку (41)
      • Робкий Киллер
        Робкий Киллер
        3.5 млрд токенов за 200 баксов без внп для самого сильного ИИ (топ 3) в мире (Грок 4.5) не экономно? А что тогда экономно и сопоставимо по качеству и скорости? Ответить
        раскрыть ветку (40)
        • Полуночный Архитектор
          Полуночный Архитектор
          это все сравнение несравнимого. Тут скорее вопрос, 1 млн токенов грока = 1 млн токенов антропика или 1 млн токенов китайцев?

          То есть, ты ставишь задачу, где вариант решения примерно один только возможен. Запускаешь модели и смотришь, модель А справилась за 700к токенов, модель Б за 3 млн токенов, модель В справилась за 13 млн токенов

          и пофиг что В дешевле всех, но траты там не меньше Ответить
          раскрыть ветку (39)
          • Робкий Киллер
            Робкий Киллер
            полный фронтенд достойного качества за 5 минут не каждый GPT сможет тем более китай

            https://t.me/bezsmuzi/17765?comment=454175

            здесь прекрасно всё: обученный на курсоре Грок 4.5, сервера Илона Маска, ценообразование

            впервые в истории утопия перестала быть. Теперь качество = быстро = дешево Ответить
            раскрыть ветку (38)
            • Робкий Киллер
              Робкий Киллер
              но никто не запрещает спорить, искать лазейки

              а я просто пойду работу работать с Грок на курсоре

              https://t.me/Russian_IT_Business/457496

              который работает в России без внп Ответить
              раскрыть ветку (30)
              • Падающий Бог
                Падающий Бог
                А как он с контент, может качественно делать экспертный? Перепробовал ряд, самый адекватный на Клоде был Ответить
                раскрыть ветку (29)
                • Робкий Киллер
                  Робкий Киллер
                  смотря в чем экспертиза, где-то Клод, где-то Джемини, а где-то и Грок вывозит

                  но чистую генерацию я бы не доверял. поэтому мы в чате создаем движок управления контекстом Context Runtime который будет анализировать рынок, экспертизу, проводить исследования и убеждаться в доказательной базе (полагаться на фактологические данные и т д) там очень много настроек с учетом русской морфологии и лингвистики и т д

                  И вот, на базе его, даже китайские квен и кими смогут выдавать по настоящему экспертный контент уровня EEAT и других метрик - пока добьем дизайн и приступим к контексту Ответить
                  раскрыть ветку (28)
                  • Воздушный Агент
                    Воздушный Агент
                    Была уже схема context runtime? Ответить
                    раскрыть ветку (27)
                    • Робкий Киллер
                      Робкий Киллер
                      он уже готов. первые прогоны сделаю на конструкторе Макса и дальше больше Ответить
                      раскрыть ветку (26)
                      • Воздушный Агент
                        Воздушный Агент
                        Пришлешь схему? Ответить
                        раскрыть ветку (25)
                        • Робкий Киллер
                          Робкий Киллер
                          5 сек. сейчас синхронизую git Ответить
                        • Робкий Киллер
                          Робкий Киллер
                          Context Runtime — это Go-движок для управления контекстом в агентных системах. Он не про «скинул документы в векторную базу и забыл», а про то, чтобы каждая единица контекста имела происхождение, версию и обоснование. Умеет гибридный поиск (exact, FTS, dense, морфология, операторы запросов), собирать ContextPack — выверенный набор контекста для модели с учётом бюджета токенов, запускать агентов (в том числе фоновые задачи по расписанию), работать с типизированными тулами и трейсить каждый шаг. Всё завязано на проектную изоляцию, иммутабельные снапшоты индекса и заменяемые провайдеры (модели, эмбеддеры, ранжировщики). API v1 заморожен, ядро стабилизировано

                          https://sourcecraft.dev/alexyos/context

                          сразу говорю пока не готов рассказывать что да как. просто можно загрузить на ПК и попросить нейронку перевести на русский или создать отдельную документацию на русском - но именно этот движок будет главным мозгом BuildY и затем LingvY Ответить
                          раскрыть ветку (23)
                          • Робкий Киллер
                            Робкий Киллер
                            Comment media
                            И почему я смело заявляю, что мы строим Context Runtime всем чатом?

                            https://sourcecraft.dev/alexyos/context/browse/.project/plugins/sadt-contract-agency.md?rev=main вот плагин, для реализации методологии SADT от @mtrnkwas

                            https://sourcecraft.dev/alexyos/context/browse/.project/plugins/grace-vivanov.md вот, GRACE методология предложенная @slavahelp

                            И много чего еще заложено в этот движок на основе комментариев и проблем, с которыми столкнулись участники чата при работе с нейронками - я все тщательно сохраняю и вношу это в проект, который базово задумывался как взять лучшее из мира: cursor, архивариус 3000 и алгоритмов Крюкова (Рамблер), но вырос в гораздо более мощное решение https://t.me/Russian_IT_Business/439564 которое началось здесь Ответить
                            раскрыть ветку (22)
                            • Тактичный Дроид
                              Тактичный Дроид
                              Bpmn видимо имели ввиду, вместо sadt Ответить
                              раскрыть ветку (21)
                              • Робкий Киллер
                                Робкий Киллер
                                Это именно SADT с жестким вертикальным ограничением LLM за счет контрактов и условий. Раньше, до появления Jev такой методологии не хватало «тумблера» внутри слайса. Теперь Jev добавляет недостающий семантический gate и можно полностью автоматизировать SADT (Здесь, Jev представляет из себя: semantic relay), а сам "тумблер" это исполнение протокола LeX

                                Вот разбор, как проектировать архитектуру вертикальных слайсов (VSA)
                                https://telegra.ph/SADT-vmesto-zaklinanij-kak-metodologiya-70-h-prevrashchaet-prompt-v-kontrakt-07-20

                                В итоге, точность достигается за счёт комплексного подхода

                                До typed semantic decisions SADT хорошо ограничивал функцию, но не имел удобного машинного механизма для автоматической оценки смысловых Controls. Jev добавляет такой механизм. LeX превращает его probabilistic signals в управляемые gates через policy и verification, а VSA изолирует каждый ICOM-контракт как самостоятельный операционный slice

                                             Control
                                |
                                v
                                Input → Preflight → Mechanism → Candidate Output
                                | |
                                v v
                                semantic gates Done-iff verifier
                                | |
                                +------ Policy ------+
                                |
                                allow / deny /
                                review / gap
                                |
                                Execute
                                |
                                verify result
                                |
                                Output + Receipt
                                Ответить
                                раскрыть ветку (20)
                                • Тактичный Дроид
                                  Тактичный Дроид
                                  А раньше тумблера не было? LLM мог то же,
                                  То есть сейчас автоматизация декомпозиции на подзадачи и свёртывания в конечный результат будет работать быстрее, тк оценивающие ноды на Jev быстрее Ответить
                                  раскрыть ветку (19)
                                  • Робкий Киллер
                                    Робкий Киллер
                                    раньше тумблер был генеративным: LLM токен за токеном рожала строку, которую мы потом парсили в JSON, надеясь, что схема не поплывет, а уверенность модели "точно" не выдумана. Доверяли более дорогим ИИ. "Уж Опус-то не ошибётся"

                                    Теперь, это стоит дешевле дипсика, а разница не просто в миллисекундах. Jev не генерирует текст, а параллельно считает калиброванное распределение вероятностей по заданным критериям (0% type errors по построению). Это переход от парсинга словесных рассуждений к детерминированному снятию показаний с сенсора и мы можем сразу это программировать Ответить
                                    раскрыть ветку (18)
                                    • Робкий Киллер
                                      Робкий Киллер
                                      Comment media
                                      Скорость обработки Jev запросов позволяет настроить читкоды в игре Doom где больше нет ни одного промаха

                                      https://youtu.be/2Bs0Ink_-Uo?si=IMWxuDbhX9KJLGF1&t=300

                                      Это реально прорывная технология, которая в ближайшие часы охватит задачи промышленного масштаба Ответить
                                      раскрыть ветку (4)
                                      • Океанический Гоблин
                                        Океанический Гоблин
                                        Всё упирается в проблему у кого пинг меньше Ответить
                                        раскрыть ветку (2)
                                        • Робкий Киллер
                                          Робкий Киллер
                                          Comment media
                                          уже доступно в Open Router по той же цене

                                          https://openrouter.ai/~typesafe/jev-latest Ответить
                                          раскрыть ветку (1)
                                          • Робкий Киллер
                                            Робкий Киллер
                                            Comment media
                                            Задержка 0,26 с

                                            https://youtu.be/X117w2Rark8?si=6QJtlrnoD1GBCBqi

                                            Вот, ёмкое видео, что это такое Jev Ответить
                                      • Тактичный Дроид
                                        Тактичный Дроид
                                        Скорость отклика это главный прорыв Ответить
                                    • Тактичный Дроид
                                      Тактичный Дроид
                                      У сенсора всё равно есть точность, до которой ему можно доверять Ответить
                                      раскрыть ветку (12)
                                      • Робкий Киллер
                                        Робкий Киллер
                                        это уже решается на уровне продукта. смотря какая точность нужна и в каких задачах

                                        раньше я рассчитывал на долгий процесс совершенствования движка контекста и планировал добиться точности вначале на больших моделях, потом снижать до малых без потери точности. теперь, я сразу могу завести Jev чтобы нейронка собрала промо страницу ресторану по запросу: хочу блюда мангал акция новый год

                                        или определить намерения какая именно витрина нужна: портфолио или товары. здесь, вероятность угадать намерения очень высокая и собрать стартовый набор для реализации Ответить
                                        раскрыть ветку (11)
                                        • Тактичный Дроид
                                          Тактичный Дроид
                                          Типа пройти по детерминированному дереву решений от корня до листьев, один уровень за шаг, первый шаг тип витрины, и т.д
                                          Только неизвестно насколько упадёт точность к последнему шагу
                                          Дерево запекается в базу знаний
                                          А почему имя context runtime? Ответить
                                          раскрыть ветку (10)
                                          • Робкий Киллер
                                            Робкий Киллер
                                            Comment media
                                            Runtime значит крутится в реальном времени. То есть, это можно потом настроить как MCP сервер для разных проверок

                                            уже задеплоил LeX протокол на базе Context Runtime + Jev и гоняю тесты

                                            Украл у Илона Маска идею X .com, который задумывался как clearinghouse транзакций. LeX задумывается как clearinghouse валидации Ответить
                                            раскрыть ветку (2)
                                            • Тактичный Дроид
                                              Тактичный Дроид
                                              не вижу, где? Ответить
                                              раскрыть ветку (1)
                                              • Робкий Киллер
                                                Робкий Киллер
                                                Comment media
                                                на Vercel для себя. Еще много работы. Только что настроил Jev и сейчас самая жара по настройке контекста

                                                Кстати, кто не знал Vercel тащит Go Ответить
                                          • Радужный Ястреб
                                            Радужный Ястреб
                                            Не мешай ему собачье молоко пить Ответить
                                            раскрыть ветку (6)
                                            • Робкий Киллер
                                              Робкий Киллер
                                              обиделся? Ответить
                                              раскрыть ветку (5)
                                              • Робкий Киллер
                                                Робкий Киллер
                                                Comment media
                                              • Робкий Киллер
                                                Робкий Киллер
                                                Comment media
                                                раскрыть ветку (3)
                                                • Радужный Ястреб
                                                  Радужный Ястреб
                                                  Comment media
                                                  раскрыть ветку (2)
                                                  • Робкий Киллер
                                                    Робкий Киллер
                                                    а ты чё повелся-то?) я разве говорил что ты или те кто юзают опус пьют собачье молоко?

                                                    вот как это звучало

                                                    у кого какой опыт. кто молоко коровье вначале попил потом козье отличит. кто напился собачьего уже разницы не увидит

                                                    не принимай на свой счёт. если ты крут и опус крут то это к вам не относится) Ответить
                                                  • Робкий Киллер
                                                    Робкий Киллер
                                                    Comment media
          • Полуночный Архитектор
            Полуночный Архитектор
            Comment media
            в том и дело, это за 2 дня, и работы непочатый край... Ответить
          • Воздушный Агент
            Воздушный Агент
            Не проще взять готовый движок?) Ответить
            раскрыть ветку (5)
            • Робкий Киллер
              Робкий Киллер
              не проще взять грязный мусорный код который весь в дырах и зависит от наднациональных библиотек и разработчиков - надежнее и проще сделать конструктор "движков" под разные языки программирования Ответить
              раскрыть ветку (4)
              • Воздушный Агент
                Воздушный Агент
                Спорный вопрос, я уверен что по характеристике "дешевле", точно будет готовый движок интернет магазина взять Ответить
                раскрыть ветку (3)
                • Робкий Киллер
                  Робкий Киллер
                  на данном этапе да. но когда BuildY заработает в полную силу можно будет штамповать темы и шаблоны под вордпресс, битрикс, инсейлз, тильда и т д - в этом и его предназначение обновить фронтенд (не бэкенд) так что любые cms системы сможем прикрутить (вордпресс уже подтвержден) Ответить
                  раскрыть ветку (2)
                  • Воздушный Агент
                    Воздушный Агент
                    Короче buildY это генератор тем под все движки? Ответить
                    раскрыть ветку (1)
                    • Робкий Киллер
                      Робкий Киллер
                      Comment media
                      не совсем. это генератор ux ui под дизайн (вкус) бренда и это может быть что угодно: генерация дизайн системы, документации, mini app приложения, постеров в соцсети, дизайна визитки в нужном для полиграфии формате - конструктор чего угодно под одним дизайном

                      а уже целевое назначение (landing, email письмо, тема cms, тема crm и т д) настраивается кастомно через адаптеры или модули. Это позже на битрикс 24 с маркетплейсом разных фичей. в идеале это конструктор конфигуратор, который устанавливается на железо партнера, клиента, комп, сервер и т д на свободные и простаивающие сервера Макса для его личной федерации и нужд и как агентства, и как автоссылки в companylist когда в один клик сайт компании открывается в новом дизайне, также buildy можно интегрировать в платформы и сервисы деплоя, регистратору доменов или хостинг провайдеру, просто в личное пользование как программу для чувствительных данных и т д

                      он полностью развязан от меня, басфактора, команды, стека и т д - умный, легкий, конфигурируемый Ответить
  • Робкий Киллер
    Робкий Киллер
    + разница в скорости здесь меняет саму архитектуру благодаря Jev. Когда оценка требует нескольких секунд и вывода токенов, мы часто вынуждены запихивать все правила в один огромный размытый промпт

    А когда проверка атомарна, стоит ~100 мс и оценивается параллельно, мы можем на один шаг пайплайна повесить 10 независимых жестких условий (Noul/Choice) одновременно. Это превращает блок-схему из монолитной рулетки в плотный конвейер с точным контролем каждого стыка (вертикального слайса) Ответить