Русский ИТ бизнес
Русский ИТ бизнес
Post media

Tiiny AI занесли в Гиннесс: их Pocket Lab - «AI‑суперкомпьютер» размером с пауэрбанк.

Обещают запускать языковые модели до 120 млрд параметров полностью локально (без интернета, облака и «дайте RTX»), потребляя всего 65 Вт: внутри 12‑ядерный ARM, TurboSparse «будит» только нужные нейроны, а Powerinfer делит нагрузку между CPU и ускорителем. Данные шифруются и остаются на устройстве, уже поддерживаются Llama/DeepSeek/Mistral, а полную презентацию везут на CES в январе 2026...

Зачем? Не знаю. Прикольно :)

Русский ИТ бизнес
  • Лохматый Осьминог
    Лохматый Осьминог
    цена наверное тоже прикольная 🤔
  • Лохматый Осьминог
    Лохматый Осьминог
    По стоимости, наверное - как "дайте вагон RTX"))
  • Лохматый Осьминог
    Лохматый Осьминог
    Comment media
    😲
  • Колеблющийся Миротворец
    Колеблющийся Миротворец
    хорошо будет греться 😁хороший кипятильник одним словом. Не вижу ёмкости куда заливать воду) В принципе если продолжат разработки то в конце концов этот продукт превратится в термопот, с поддержанием нужной температуры кипяточка😁
    • Тёмный Попугай
      Тёмный Попугай
      AI термопот или мультиварка - почему нет? Есть же колонки.. А эти еще и готовить и разогреть воду могут
      • Колеблющийся Миротворец
        Колеблющийся Миротворец
        действительно, биткоин-майнеры обогреватели же есть уже )
  • Кованый Писатель
    Кованый Писатель
    Эволюция технической системы AI. И это совпадает и. С теорией, и с практикой.

    Главное - не будет сливать коэффициенты после обучения и данные пользователя.
    • Океанический Гоблин
      Океанический Гоблин
      А не факт, что он дообучается. Маловат для этого. Может просто контекст хранит и работает на готовых коэффициентах.
      • Робкий Киллер
        Робкий Киллер
        Сейчас презентуют и по любому начнется гонка https://www.prnewswire.com/news-releases/tiiny-ai-reveals-worlds-smallest-personal-ai-supercomputer-verified-by-guinness-world-records-302637552.html

        Так что в 26 27гг это будет продаваться на маркетплейсах. Квантованные модели потянет и даже gpt-oss-120 а значит можно внедрять личные кабинеты с личным джарвис ассистентом который не сливает твои личные данные в сеть
        • Океанический Гоблин
          Океанический Гоблин
          Начнется гонка ИИ-коробочек? Выпуск одной такой коробки будет устаревать каждые полгода?
          • Робкий Киллер
            Робкий Киллер
            Да там не так много потребностей если gpt-oss тянет то это надолго а вся инфа на ПК или ноутбуке