Русский ИТ бизнес
Русский ИТ бизнес

Если осилите, то вот эта штука позволит вам запускать очень достойные ИИ локально, не передавая

Если осилите, то вот эта штука позволит вам запускать очень достойные ИИ локально, не передавая
Если осилите, то вот эта штука позволит вам запускать очень достойные ИИ локально, не передавая никуда критичные данные...

Я слаб в железе, но помимо самой карты, видимо, потребуется остальное :) еще на 200-300к минимум. Но зато железка будет херачить как слепой крот во благо ИИ. Ставите на кухне, миритесь с теплом и шумом, зато все у вас. Серьмяжно- домотканно.

p.s. я не ошибся в доп.расходах помимо карты? В 300к уложиться можно?

Русский ИТ бизнес

Комментарии (13)

  • Циничный Партизан
    Циничный Партизан
    Мы сейчас под клиента купили две H100 80GB PCIe, благо не за свои кровные :) Но эффект нравиться Ответить
  • Фиолетовый Инопланетянин
    Фиолетовый Инопланетянин
    Да, можно Ответить
  • Ворчливый Монстр
    Ворчливый Монстр
    Овчина выделки не стоит. Знаю компанию, которая внедрила RAG силами подрядчиков, заплатив дофига денег. А итоге профита минимум, влияние на прибыль=0. Побаловались Ответить
    раскрыть ветку (5)
    • Раздражительный Жираф
      Раздражительный Жираф
      как это не стоит, они же заплатили кому-то кучу денег — значит стоит Ответить
      раскрыть ветку (1)
      • Ворчливый Монстр
        Ворчливый Монстр
        Ну вообще да, + сервера с gpu арендные не простаивают у хостинга Ответить
    • Циничный Партизан
      Циничный Партизан
      Это очень стандартная история. На местах сидят менеджеры, которые не могут не то что бы 2х слов связать. Но и мысли свои минимально выразить. И вот такому менеджеру прилетает задача, внедрить ИИ. Он несется сломя голову, находит подрядчика который вднерит. При этом за внедрение ИИ почему то сейчас очень много денег просят. Ну так вот, бабос потратили. Работу сделали - в итоге 0 эффекта. Ответить
    • Шрамированный Бизон
      Шрамированный Бизон
      Это смотря для каких целей.. Это железо потянет - бухгалтерия/финансы/ инженерный отдел?.. Ответить
      раскрыть ветку (1)
      • Ворчливый Монстр
        Ворчливый Монстр
        Инженерку врядли. Да там ситуация такая, что не знают куда его применить. Обещано было полная автоматизация всего и вся. По факту электронную почту прогоняют и по тексту определяют какому специалисту адресовать. С большим числом ошибок Ответить
  • Тёмный Боярин
    Тёмный Боярин
    Если вопрос в защите данных, то обычно это решается в юридической плоскости. Условный ChatGPT-5.2 (или любую SOTA модель на текущий момент) не переплюнуть. По опыту общения с парой активно использующих ИИ компаний (не РФ) - подписывают какое-то соглашение, что данные от них не используются в обучении Ответить
  • Вязаный Грузчик
    Вязаный Грузчик
    Да все на этот ИИ молятся как не знаю на кого, и думают что это панацея от всех болячек в их бизнесе. При этом у самих ни логики в бизнес-процессах, ни понимания. Но вот придет иишка, и все у них будет заебок, что аж какать начнут золотой шелухой от бриллиантовых семечек Ответить
    раскрыть ветку (1)
    • Вышитый Геймер
      Вышитый Геймер
      по моему это в первую очередь касается тех кто готов обсуждать "проблемы ИИ" круглые сутки))) Ответить
  • Раздражительный Барс
    Раздражительный Барс
    Надо брать видюху, там 300 бонусов за отзыв! Ответить
  • Суровый Официант
    Суровый Официант
    у знакомого накая только на 48гб Ответить