AI-дайджест · 7 июля 2026 ✨
Друзья, добро пожаловать в свежий выпуск! Сегодня два мощных анонса: новая большая MoE-модель с открытой лицензией и практический разбор, как собирать датасет под генеративную модель.
---
### 🧠 Tencent Hy3: 295B MoE, 21B активных, Apache 2.0
Tencent выпустила Hy3 — Mixture-of-Experts модель:
- 295 млрд параметров всего
- 21 млрд активных параметров
- 3.8B MTP-layer
- Контекст 256K
- Веса 598 GB (в FP8 — ~300 GB)
Модель уже бесплатно доступна на OpenRouter до 21 июля.
Почему это важно
Модель эффективнее многих аналогов и уверенно конкурирует с флагманами, которые в 2–5 раз больше. А главное — Apache 2.0 лицензия: можно спокойно ставить в продакшн-пайплайны без лицензионных рисков.
*Дополнительно подтверждено MarkTechPost (детали по тексту совпадают).*
---
### 📦 PRX Part 4: Как Photoroom строил датасет для генеративной модели
Команда Photoroom полностью раскрыла свой пайплайн подготовки данных:
- Сборка из публичных + внутренних датасетов
- Ре-капшенинг всех изображений через VLM
- Запись в Mosaic Data Shards с бакетированием по разрешению и соотношению сторон
Ключевой принцип: coverage и diversity важнее перфекционизма каждого отдельного сэмпла.
Почему это важно
Конкретный, рабочий рецепт, как собрать стримируемый корпус для претрейна. Если вы сейчас строите свою генеративную модель — берите этот подход за основу.
---
Что зацепило сильнее — новая большая MoE или подход к данным?
Пишите в комментариях 👇
#AI #MoE #Tencent #Photoroom #DataPipeline #AInews

Комментариев пока нет.