Ну вообще любая большая система поглощает мелких дрочепотов. Почитайте и сделайте выводы... Делать обертки на базе гигантов заманчиво, но тревожно...
Русский ИТ бизнес
Поэтому и вливают кучу бабла в абсолютно убыточные сервисы, типа Sora. Они не меценаты.
insomnia_db
Капитан очевидность этот Джейсон. И логика такая не только у Сэма, а и всех остальных - гугл, антропик, дипсик... Расти или умри. Но все-равно почти все эти апи передохнут через 10-15 лет, т.к. модельки будут локальными
Channel_Bot
10-15 - это очень оптимистично (или пессимистично, смотря с чьей точки зрения).
Может, 3-4 года, лет 5. Как только сформируется достаточное количество вменяемых профи и всеобщая тестовая атмосфера (как сейчас) сдуется - все будут ставить себе нужное локально.
dmitry236
как оно будет вообще неизвестно, потому что напрашивается обязательное лицензирование всех экземпляров локальных ИИ, а значит нужно будет получать лицензию в РосИИНадзоре, клеить виртуальную ИИАкцизу и пр
unkn0w_us3r
И белый список ИИ
StasDoDesign
Давайте новость как сделать локально. Бюджетно и эффективно как гемини и чатгпт,дипсик,квен. MoA же есть тема. Как собрать такую игруху дома и сколько стоит это поддерживать?
Где вы Mixture of Agents или Совет агентов используете, в какой интерфейсе и можно ли это локально сделать?
Vlad_sharp
разверните оламу с опенвебом дома, для комфортной работу надо чтото 3070 и выше
StasDoDesign
А есть инструкция? Или гугл)
StasDoDesign
А если на телефоне ещё использовать?
DADementr
тот функционал который дают чаты вендоров моделей, ты у себя дома будешь год пилить, а потом на железо копить
alexy_os
Функционал ещё ладно. Трушный программист осилит пусть не один. Но железо, много железа и много видеокарт и много кулеров увы нет
Maxiv8
Локальная система сейчас реалистична только под микроскопические нагрузки. Чтобы обрабатывать миллионы токенов выгоднее использовать API крупных компаний.
Это уже владелец этого канала проверил на своем опыте.
Maxiv8
С дальнейшим развитием у крупняка так же будет появляться возможность снижать цены
alexy_os
Кто боится, что openai будет его изучать или его продукт – просто представьте, что вы чехонь в океане таких же миллионов мелких рыб. Чем вы как программист способны удивить бигтех?
vmillerai
да это все просто репутационные игры) OpenAI обвиняют в том, что сами делают, но не говорят открыто. Вот Антропик прям вообще не смотрит что там с использование апи и в каких продуктах, ага)
alexy_os
Все смотрят
Даже Макс парсит не только чат но и историю редактирования каждого комментария
И не только Макс
vmillerai
мы даже в своем продукте анализируем все события и в каких нишах они происходят)
alexy_os
А что касается API - стройте системы не только лишь на openai, юзайте еще антропик, китайские, европейские, русские модели и даже локальные для простых утилитарных задач
Комментарии (20)
Может, 3-4 года, лет 5. Как только сформируется достаточное количество вменяемых профи и всеобщая тестовая атмосфера (как сейчас) сдуется - все будут ставить себе нужное локально.
Где вы Mixture of Agents или Совет агентов используете, в какой интерфейсе и можно ли это локально сделать?
Это уже владелец этого канала проверил на своем опыте.
Даже Макс парсит не только чат но и историю редактирования каждого комментария
И не только Макс