DeepSeek-R1-Distill-Llama-8B AdvChain CoT-Final
рассуждения с готовым резюме
2 min readupdated
Автор OP12138 опубликовал полнопараметрический SFT-файнтюн (дообучение всех весов модели на примерах) на базе DeepSeek-R1-Distill-Llama-8B. Модель обучалась на датасете advchain_cot_final_974 из 974 записей, где исходная цепочка рассуждений CoT (Chain-of-Thought — пошаговое логическое мышление внутри тегов ) сохраняется без изменений, а сразу после неё добавляется итоговая сводка. В отличие от стандартных сборок, здесь специально отработана склейка рассуждений и финального ответа без обрезки контекста. Подойдёт разработчикам и исследователям, которые работают с reasoning-моделями (моделями с видимым ходом мыслей) и настраивают структурированный вывод.
Ключевые особенности
- Полнопараметрическое дообучение: обновлены все веса модели с помощью LLaMA-Factory и DeepSpeed ZeRO-3 в точности
bf16. - Сохранение блока мышления: используется шаблон
deepseekr1, оставляющий тегии весь ход рассуждений в нетронутом виде. - Обучение без обрезки: максимальная длина примеров в датасете составила 2 596 токенов при лимите контекста 8 192, все финальные ответы прошли контроль качества.
- Стабильная сходимость: за 5 эпох (40 шагов оптимизатора) функция потерь снизилась с 1.80 до 0.25 при среднем значении 0.686.
Что можно сделать
- Встроить модель в пайплайны анализа данных, где от нейросети требуется сначала показать пошаговую логику внутри
, а затем выдать чёткую итоговую сводку. - Использовать чекпоинт как отправную точку для дальнейших экспериментов с форматацией CoT-ответов на базе архитектуры Llama 8B.
Пример
В обучающем датасете структура ответа модели строится по жёсткому шаблону: сначала идёт исходная цепочка рассуждений внутри тегов ..., затем двойной перенос строки и итоговая сводка по метаданным в качестве финального ответа.
Подробнее
Базовая модель: deepseek-ai/DeepSeek-R1-Distill-Llama-8B (размер весов — 15.96 ГБ, 291 тензор в safetensors).Обучение: 5 эпох (40 шагов), эффективный батч 128, AdamW (LR 1e-5, cosine, warmup 5%, clip 1.0), seed 42.
Метрики обучения: train_loss снизился с 1.80 до 0.25 (средний 0.686), grad_norm — с 14 до 2.
Язык датасета: английский (974 записи: 775 tc и 199 hc).










Comments