Вот на этом сайте (подсветил) можете бесплатно и не быстро поиграться с новой открытой моделью GPT-OSS-120b и понять подойдет ли она вам или нет. Для теста вполне достаточная скорость, а уж следом покупать карты или искать где арендовать GPU.

В РФ, как мне сказали, ребята - посредники дадут цену 20 р. за 1 млн. токенов на выходе для этой модели.

Русский ИТ бизнес