Цензурированные CoT-трейсы от Anthropic: почему дообучение на них ломает рассуждения модели

Цензурированные CoT-трейсы от Anthropic: почему дообучение на них ломает рассуждения модели

Anthropic выпустила Claude 4 Opus с публичными CoT-трейсами, но эксперименты показали, что дообучение на цензурированных (отфильтрованных) версиях этих цепочек мыслей ухудшает качество рассуждений моделей. Это важно, поскольку демонстрирует, что удаление «неудобных» шагов рассуждения лишает модель глубины и способности анализировать конфликты.

Читать статью →

Подписаться на канал