Русский ИТ бизнес
Русский ИТ бизнес

Покупаете такую штуку и помимо любых других целей (дизайн, разработка, монтаж и тп) у вас абсолютно

Покупаете такую штуку и помимо любых других целей (дизайн, разработка, монтаж и тп) у вас абсолютно
Покупаете такую штуку и помимо любых других целей (дизайн, разработка, монтаж и тп) у вас абсолютно без проблем будет работать локальная ИИ уровня GPT-OSS:20b для простых вопросов и ответов.

Никаких облаков и подписок. Ваши вопросы не утекут в файлы Эпштейна.

Русский ИТ бизнес

Комментарии (63)

  • Вышитый Геймер
    Вышитый Геймер
    Про Эпштейна хорошее дополнение, на злобу дня)
    А распределенную можно сделать? Если купить полдюжины?) Ответить
  • Экологичный Боб
    Экологичный Боб
    Джимини ещё норм, а чат джпт постоянно врет Ответить
  • Зевающий Ленивец
    Зевающий Ленивец
    Можно Алису бесплатно использовать или гигакод, не?)) Ответить
    раскрыть ветку (23)
    • Экологичный Священник
      Экологичный Священник
      а чем они от буржуйских отличаются? Ответить
      раскрыть ветку (22)
      • Зевающий Ленивец
        Зевающий Ленивец
        Тут речь про купить мак мини ради модели 20b для "простых ответов". Ответить
        раскрыть ветку (1)
        • Экологичный Священник
          Экологичный Священник
          Comment media
          в условиях, когда "отечественная ии" выдает вот такие ответы, волей-неволей возникает желание запускать всё локально Ответить
      • Вышитый Геймер
        Вышитый Геймер
        Ценой) как передовая в ИИстрана, догоняющая Никарагуа (статистика мелкософта, не я придумал) токены российские самые дорогие (можно погуглить тему или спрочить дипсик или алису 😂)
        Но Алиса могёт (мультяшки забавные, по крайней мере) а вот гига... Ответить
        раскрыть ветку (19)
        • Экологичный Священник
          Экологичный Священник
          не оч понимаю, как гига и алиса соотносятся со страной Российская Федерация Ответить
          раскрыть ветку (18)
          • Зевающий Ленивец
            Зевающий Ленивец
            Серваки в РФ Ответить
            раскрыть ветку (3)
            • Экологичный Священник
              Экологичный Священник
              ну у гугла тоже Ответить
              раскрыть ветку (2)
              • Зевающий Ленивец
                Зевающий Ленивец
                Нет, тем более Джемини без впн в РФ не доступен Ответить
                раскрыть ветку (1)
                • Экологичный Священник
                  Экологичный Священник
                  у меня есть свидетель, который видел оборудование гугла в краснодаре своими глазами. может там видео хранят Ответить
          • Добрый Павлин
            Добрый Павлин
            Полностью сберовская разработка в РФ. выложены в OpnSRC Ответить
            раскрыть ветку (13)
            • Экологичный Священник
              Экологичный Священник
              Comment media
              вопросов больше не имею Ответить
              раскрыть ветку (12)
              • Добрый Павлин
                Добрый Павлин
                Ну идеальная генерация как по мне я ошибок не вижу Ответить
                раскрыть ветку (11)
                • Зевающий Ленивец
                  Зевающий Ленивец
                  Звезды не звезды Ответить
                  раскрыть ветку (3)
                  • Добрый Павлин
                    Добрый Павлин
                    Ну это мелочи, за взглядом солнцеликого не заметны Ответить
                    раскрыть ветку (1)
                    • Зевающий Ленивец
                      Зевающий Ленивец
                      Ну того чела просто от темнейшего бомбит ) Ответить
                  • Лавандовый Ворон
                    Лавандовый Ворон
                    Это воровские😉

                    П.с.: Владмир Владимирович, только шутки, ничего больше Ответить
                • Лавандовый Ворон
                  Лавандовый Ворон
                  Еще бы были вопросы, получать на них ответы, точно бы не в чате пришлось. Ответить
                • Вышитый Геймер
                  Вышитый Геймер
                  Как химик не могу не согласиться! Помнийгоржусий - главный элнмкнт нашей периодической системы! Ответить
                  раскрыть ветку (1)
                  • Океанический Гоблин
                    Океанический Гоблин
                    Вам как химику знакомо такое химическое соединение?
                    Be La Ru S Ответить
                • Экологичный Священник
                  Экологичный Священник
                  это они недавно обновили, оно раньше тоже американцев рисовало
                  теперь всё четко по уставу Ответить
                • Океанический Гоблин
                  Океанический Гоблин
                  Мундир как у Штирлица Ответить
                • Экологичный Священник
                  Экологичный Священник
                  Comment media
                  а, нет, всё еще палится Ответить
                  раскрыть ветку (1)
                  • Добрый Павлин
                    Добрый Павлин
                    И вот на такое сжигаются гигаваты мощности 🤣 Ответить
  • Покинутый Вепрь
    Покинутый Вепрь
    Comment media
    подтверждаю лучшая покупка прошлого года, уложился в 110к, остальная периферия была, ЛЛМ пока не успел ещё протестировать. Ответить
    раскрыть ветку (20)
    • Пряный Единорог
      Пряный Единорог
      А чем именно mini так хорош? Почему не обычный ноутбук? Ответить
      раскрыть ветку (19)
      • Зевающий Ленивец
        Зевающий Ленивец
        Дешевле. Ответить
        раскрыть ветку (13)
        • Пряный Единорог
          Пряный Единорог
          Так лучше добавить и взять ноут. Там и дисплей, и клава и волшебный тачпад - все в одном. И в сумку можно закинуть и поехать в Таиланд. Ответить
          раскрыть ветку (12)
          • Зевающий Ленивец
            Зевающий Ленивец
            Во первых ноут в 2 раза дороже, во вторых как бы назначение разное, миник как сервак запустил и пусть крутиться 24/7, но по мне это хрень. Если и брать мак и юзать иишку то м4макс хотябы Ответить
            раскрыть ветку (11)
            • Пряный Единорог
              Пряный Единорог
              Как сервак лучше Linux. Можно собрать намного мощнее и дешевле. Ответить
              раскрыть ветку (10)
              • Зевающий Ленивец
                Зевающий Ленивец
                Только придется хотябы парочку 5070 прикупить ) Ответить
                раскрыть ветку (9)
                • Пряный Единорог
                  Пряный Единорог
                  Если для обучения, то да, придется брать Nvidia. Но для обучения Apple mini тоже не очень годится, одни мучения. Для генерации - да, но для этого есть более дешёвые решения. Ответить
                  раскрыть ветку (8)
                  • Зевающий Ленивец
                    Зевающий Ленивец
                    Причём тут обучение? Просто юзать 20b, 30b сети локально. Ответить
                    раскрыть ветку (7)
                    • Пряный Единорог
                      Пряный Единорог
                      Просто пытаюсь понять, почему именно Apple mini. У меня стояла такая же задача - получить AI сервер для генерации. Я выбрал мини ПК на AMD Ryzen AI Max+ 395 128GB RAM. Поставил на него Linux, теперь могу запускать модели на 80-100B. Qwen3-Next-80B выдает 30 тс, GPT-OSS-120B 50 тс. Это в несколько раз быстрее, чем читает человек. Смысл покупать именно Apple mini? Только если реально нужна сверхвысокая скорость генерации. Но тогда лучше собрать кластер из Nvidia. Ответить
                      раскрыть ветку (6)
                      • Зевающий Ленивец
                        Зевающий Ленивец
                        В таком контексте да, миник не нужен, есть аи 395, мак студия или на хотчбы 5070 собрать. Ответить
                        раскрыть ветку (5)
                        • Пряный Единорог
                          Пряный Единорог
                          Мак студия в целом нужна только в одном случае - если очень хочется запустить что-то типа Deepseek 671B. Больше ни на какой машине потребительского класса этого не добиться. Но практического смысла в этом нет, потому что скорость генерации будет крайне низкой. Тогда зачем? Есть дешёвые машины на AMD Ryzen AI Max+ 395. Логичный переход с них для получения более высокого потребительского опыта - переход на Nvidia 6000 pro или несколько 5090, но не Apple mini. Ответить
                        • Пряный Единорог
                          Пряный Единорог
                          Я это к чему. Мини имеет смысл как потребительский стационарный компьютер, который занимает мало места на столе. Во всем остальном одни минусы - не мобильный, в кафе с ним не пойдешь, для AI генерации есть решения получше. Ответить
                          раскрыть ветку (3)
                          • Зевающий Ленивец
                            Зевающий Ленивец
                            Ну тут да, лучше эту сотку к мак бук про докинуть, пользы больше будет Ответить
                            раскрыть ветку (2)
                            • Пряный Единорог
                              Пряный Единорог
                              О том и речь. МакБук намного более универсальная и полезная вещь. И перед девочками можно понтоваться, сидя с задумчивым видом в кафе и выбирая билеты в Вену. Не попрешь же мини с монитором в кафе))) Ответить
                            • Робкий Киллер
                              Робкий Киллер
                              Comment media
                              Если сотку накинуть, то уж лучше m4 max тогда (не под кафе - под хоум лаб с llm) Ответить
      • Покинутый Вепрь
        Покинутый Вепрь
        ноут отдельно есть, тем что ноут от сети когда работает 24/7 с двумя мониторами убивает батарею Ответить
        раскрыть ветку (4)
        • Пряный Единорог
          Пряный Единорог
          То есть цель сэкономить на батарее или собрать коллекцию Apple устройств? Ответить
          раскрыть ветку (3)
          • Покинутый Вепрь
            Покинутый Вепрь
            а у вас цель какая вопроса ? язвить, или реально интересуетесь?

            цель дома работать комфорто за мини-стационарником по доступной цене, и не выходить за рамки экосистемы, когда работаешь вне дома на буке. у меня ещё и телефон apple представьте себе какая наглость Ответить
            раскрыть ветку (2)
            • Вышитый Геймер
              Вышитый Геймер
              Ну судя по высоким совещаниям владельцев бренда Apple запишут в иноагенты последними)) Ответить
            • Экологичный Священник
              Экологичный Священник
              Настоящий русский
              Пьёт водку без закуски,
              А кто с неё блюёт —
              Тот не патриот
              Ответить
  • Добрый Павлин
    Добрый Павлин
    24 RAM 512 SSD без GPU. Не уж, спасибо🤣 Ответить
  • Глухой Гуру
    Глухой Гуру
    Да, gpu на мак мини неплох. Обучении ускоряет. Конечно не как nvidia, но уже в раз 5 быстрее чем на cpu. Ответить
  • Циничный Бегемот
    Циничный Бегемот
    Один из минусов, пропускная способность, мало токенов в секунду получится. Лучше и дешевле собрать из серверного б/у + 3090, но только если есть место куда поставить т.к. шумновато будет. Ответить
    раскрыть ветку (5)
    • Зевающий Ленивец
      Зевающий Ленивец
      Имхо лучше курсор оплатить за 1600 в месяц )) Ответить
      раскрыть ветку (3)
      • Железный Сокол
        Железный Сокол
        на 3 дня? Ответить
        раскрыть ветку (1)
        • Зевающий Ленивец
          Зевающий Ленивец
          За 3 дня сделаешь больше чем на модели 20b запущенной на мини, хотя на мини наверное вообще ничего не сделаешь, размера контекста не хватит. Ответить
      • Циничный Бегемот
        Циничный Бегемот
        Смотря для чего, у каждого свои потребности, желания. Если рассматривать для работы и конфиденциальности, то домашний сервер лучше. Особенно если взять двухпроцессорную и получится что 36 ядер в 72 потока, да и оперативы от 128 нагрузить. Ответить
    • Пряный Единорог
      Пряный Единорог
      У меня как раз такой сервер дома стоит на Supermicro 2 процессора AMD 64 ядра 512 Гб памяти+3080ti. Не для AI, он слишком медленный. Собран в корпусе Fractal Design Define 7 XL. Греется очень сильно, но спасают очень тихие вентиляторы Noctua NF-A14 PWM. Практически не слышно, но из-за тепла нельзя держать в жилом помещении, очень сильно сушит и нагревает воздух. Ответить
  • Лохматый Осьминог
    Лохматый Осьминог
    Ну для каких простых вопросов ? У него контекстное окно с бублик будет. Этот вопрос тянет на вопрос в поисковой строке гугл. Ноль пользы от такой локальной LLM Ответить
  • Мягкий Бизон
    Мягкий Бизон
    20b плохо будет. С учетом что еще надо довешивать инфра..

    14b / 16b - еще ок, но и то без параллельных ии запросов. Строгий пайп Ответить
    раскрыть ветку (6)
    • Робкий Киллер
      Робкий Киллер
      С хорошей инфрой и фактурой yandex 8b неплохо болтает

      https://t.me/saiga_igusev_bot вот, у Ильи из Яндекса можно потестить

      Внимание: кастомные модели запускаются с холодного старта поэтому первый запрос чуток придется подождать

      Сайга 8b Яндекс на Mac M4 отлично работать должно. Только контекст реализуй как в Cursor или гоняй прямо в курсоре через оламу Ответить
      раскрыть ветку (5)
      • Робкий Киллер
        Робкий Киллер
        Тот кто поймет и применит алгоритмы курсора в своих проектах - порвет 95% всех стартапов посредников Ответить
      • Мягкий Бизон
        Мягкий Бизон
        8b отлично работает. У меня они и стоят) на m4

        Речь идет про 14b или 16 - это использую только в сложных случаях и со строгим пайплайном.

        модели всегда можно разгонять сразу после включения компа и ставит keep alive долгий Ответить
        раскрыть ветку (3)
        • Робкий Киллер
          Робкий Киллер
          Сайга стоит? Попробуйте сайгу от Ильи Ответить
          раскрыть ветку (2)
          • Мягкий Бизон
            Мягкий Бизон
            у меня свои обученые на моих примерах и тд..)
            к яндексу у меня только негатив, не хочу быть заблоченным на канале. Ответить
            раскрыть ветку (1)
            • Робкий Киллер
              Робкий Киллер
              Без проблем. Илья вроде не работает в Яндексе

              У него сайга развивается с 22го года он инженер и ведет проект с исходным кодом

              К Яндексу отношения не имеет. Рекомендую потестить

              https://huggingface.co/IlyaGusev/saiga_yandexgpt_8b

              https://ollama.com/OxW/Saiga_YandexGPT_8B

              У него сайга и вихрь не только через яндекс, там и квен есть и гемини https://ollama.com/OxW

              Вот профиль на hf https://huggingface.co/IlyaGusev

              Из интересного: есть готовые dataset для обучения и файнтюннинга на русском языке уже проверенные временем Ответить