Telega.FM Лента новостей из телеграмм по темам
Русский ИТ бизнес 👨
Подписаться
Post media
Если осилите, то вот эта штука позволит вам запускать очень достойные ИИ локально, не передавая никуда критичные данные...

Я слаб в железе, но помимо самой карты, видимо, потребуется остальное :) еще на 200-300к минимум. Но зато железка будет херачить как слепой крот во благо ИИ. Ставите на кухне, миритесь с теплом и шумом, зато все у вас. Серьмяжно- домотканно.

p.s. я не ошибся в доп.расходах помимо карты? В 300к уложиться можно?

Русский ИТ бизнес
1978/8 Открыть в Telegram

Комментарии (13)

  • rogachevdv
    Мы сейчас под клиента купили две H100 80GB PCIe, благо не за свои кровные :) Но эффект нравиться
  • heedmywordsstruggler
    Да, можно
  • 1684794669
    Овчина выделки не стоит. Знаю компанию, которая внедрила RAG силами подрядчиков, заплатив дофига денег. А итоге профита минимум, влияние на прибыль=0. Побаловались
    • dmitry236
      как это не стоит, они же заплатили кому-то кучу денег — значит стоит
      • 1684794669
        Ну вообще да, + сервера с gpu арендные не простаивают у хостинга
    • rogachevdv
      Это очень стандартная история. На местах сидят менеджеры, которые не могут не то что бы 2х слов связать. Но и мысли свои минимально выразить. И вот такому менеджеру прилетает задача, внедрить ИИ. Он несется сломя голову, находит подрядчика который вднерит. При этом за внедрение ИИ почему то сейчас очень много денег просят. Ну так вот, бабос потратили. Работу сделали - в итоге 0 эффекта.
    • iine80
      Это смотря для каких целей.. Это железо потянет - бухгалтерия/финансы/ инженерный отдел?..
      • 1684794669
        Инженерку врядли. Да там ситуация такая, что не знают куда его применить. Обещано было полная автоматизация всего и вся. По факту электронную почту прогоняют и по тексту определяют какому специалисту адресовать. С большим числом ошибок
  • woghan
    Если вопрос в защите данных, то обычно это решается в юридической плоскости. Условный ChatGPT-5.2 (или любую SOTA модель на текущий момент) не переплюнуть. По опыту общения с парой активно использующих ИИ компаний (не РФ) - подписывают какое-то соглашение, что данные от них не используются в обучении
  • DVelizhanin
    Да все на этот ИИ молятся как не знаю на кого, и думают что это панацея от всех болячек в их бизнесе. При этом у самих ни логики в бизнес-процессах, ни понимания. Но вот придет иишка, и все у них будет заебок, что аж какать начнут золотой шелухой от бриллиантовых семечек
    • Sergei_Lk
      по моему это в первую очередь касается тех кто готов обсуждать "проблемы ИИ" круглые сутки)))
  • 899014842
    Надо брать видюху, там 300 бонусов за отзыв!
  • rich_bro
    у знакомого накая только на 48гб