Проект LLMs-from-scratch на GitHub обучает, как своими руками собрать GPT-подобную модель в PyTorch шаг за шагом...

Всё модульно и вполне реально запускается на обычных ноутбуках, а не только на каком-то космическом железе.

Важно то, что проект помогает понять саму логику трансформеров, а не просто получить готовый результат. Те же методы, что работают в ChatGPT, здесь поданы так, чтобы их можно было освоить и использовать в реальных домашних условиях.

Полезно? :)

Русский ИТ бизнес