Обработали 2 млн. товаров (!) с помощью ИИ. За сутки делаем 90к запросов. Сам не верю, но это работает стабильно. В день уходит 1000 р.
Сейчас в планах матчинг. Берем 10 товаров (цена, характеристики, название и т.п.), кидаем в думающую ИИ и просим вернуть % схожести товаров между собой. Это в теории работает, а на практике - хз что будет. Отпишусь, как будут итоги.
ИИ всегда возвращает % схожести от 0 до 1, но вопрос в галлюцинациях.
Русский ИТ бизнес
Русский ИТ бизнес 👨
Подписаться
Комментарии (0)
Использовал 15 аккаунтов groq ai , модель llama-3.1-8b-instant с лимитом 500 тысяч токенов в день
Основная фишка была обработка 10 товаров в одном запросе для ускорения и учет лимита запросов на ключ в минуту
15 ключей groq ai и 15 прокси ipv6 usa, многопоточность python