ByteDance выпустила 3B open-source модель: обзор возможностей и тесты производительности

ByteDance выпустила 3B open-source модель: обзор возможностей и тесты производительности

Модель Seed-LLM-3B от ByteDance с 3 млрд параметров превосходит многие 7B-аналоги, имеет контекстное окно 32K токенов, что позволяет обрабатывать длинные документы, код и многозадачные сценарии. Модель выложена на Hugging Face под лицензией MIT.

Контекстное окно 32K токенов оптимизировано для RoPE, и для дальнейшего расширения требуется дополнительная настройка.

Читать статью →

Подписаться на канал