Русский ИТ бизнес
Русский ИТ бизнес
Post media

Если осилите, то вот эта штука позволит вам запускать очень достойные ИИ локально, не передавая

Если осилите, то вот эта штука позволит вам запускать очень достойные ИИ локально, не передавая никуда критичные данные...

Я слаб в железе, но помимо самой карты, видимо, потребуется остальное :) еще на 200-300к минимум. Но зато железка будет херачить как слепой крот во благо ИИ. Ставите на кухне, миритесь с теплом и шумом, зато все у вас. Серьмяжно- домотканно.

p.s. я не ошибся в доп.расходах помимо карты? В 300к уложиться можно?

Русский ИТ бизнес

Комментарии (13)

  • Циничный Партизан
    Циничный Партизан
    Мы сейчас под клиента купили две H100 80GB PCIe, благо не за свои кровные :) Но эффект нравиться
  • Фиолетовый Инопланетянин
    Фиолетовый Инопланетянин
    Да, можно
  • Ворчливый Монстр
    Ворчливый Монстр
    Овчина выделки не стоит. Знаю компанию, которая внедрила RAG силами подрядчиков, заплатив дофига денег. А итоге профита минимум, влияние на прибыль=0. Побаловались
    • Раздражительный Жираф
      Раздражительный Жираф
      как это не стоит, они же заплатили кому-то кучу денег — значит стоит
      • Ворчливый Монстр
        Ворчливый Монстр
        Ну вообще да, + сервера с gpu арендные не простаивают у хостинга
    • Циничный Партизан
      Циничный Партизан
      Это очень стандартная история. На местах сидят менеджеры, которые не могут не то что бы 2х слов связать. Но и мысли свои минимально выразить. И вот такому менеджеру прилетает задача, внедрить ИИ. Он несется сломя голову, находит подрядчика который вднерит. При этом за внедрение ИИ почему то сейчас очень много денег просят. Ну так вот, бабос потратили. Работу сделали - в итоге 0 эффекта.
    • Шрамированный Бизон
      Шрамированный Бизон
      Это смотря для каких целей.. Это железо потянет - бухгалтерия/финансы/ инженерный отдел?..
      • Ворчливый Монстр
        Ворчливый Монстр
        Инженерку врядли. Да там ситуация такая, что не знают куда его применить. Обещано было полная автоматизация всего и вся. По факту электронную почту прогоняют и по тексту определяют какому специалисту адресовать. С большим числом ошибок
  • Тёмный Боярин
    Тёмный Боярин
    Если вопрос в защите данных, то обычно это решается в юридической плоскости. Условный ChatGPT-5.2 (или любую SOTA модель на текущий момент) не переплюнуть. По опыту общения с парой активно использующих ИИ компаний (не РФ) - подписывают какое-то соглашение, что данные от них не используются в обучении
  • Вязаный Грузчик
    Вязаный Грузчик
    Да все на этот ИИ молятся как не знаю на кого, и думают что это панацея от всех болячек в их бизнесе. При этом у самих ни логики в бизнес-процессах, ни понимания. Но вот придет иишка, и все у них будет заебок, что аж какать начнут золотой шелухой от бриллиантовых семечек
    • Вышитый Геймер
      Вышитый Геймер
      по моему это в первую очередь касается тех кто готов обсуждать "проблемы ИИ" круглые сутки)))
  • Раздражительный Барс
    Раздражительный Барс
    Надо брать видюху, там 300 бонусов за отзыв!
  • Суровый Официант
    Суровый Официант
    у знакомого накая только на 48гб