Датасет · qihoo360
Двухэтапный SFT-датасет для обучения рассуждающих моделей
qihoo360/Light-R1-SFTData
Набор из 79 тысяч примеров для двухэтапного SFT-обучения моделей с длинными цепочками рассуждений.
Что внутри
Это текстовый датасет на английском языке, на котором авторы из Qihoo 360 обучили модель Light-R1-32B. Данные разделены на два JSON-файла для поэтапного обучения: 76 тысяч примеров на первом этапе и 3 тысячи на втором. Набор создан для того, чтобы научить обычные языковые модели длинным цепочкам рассуждений (long CoT) без дистилляции из готовых reasoning-моделей.
Что можно сделать
- Обучение рассуждающих LLM с нуля по методике двухэтапного SFT
- Дообучение моделей для решения сложных математических задач уровня AIME
- Исследование курируемого обучения (Curriculum SFT) для развития логики
- Задачи
- Генерация текста
- Размер
- 10K–100K записей
- Скачиваний за месяц
- 11,3 тыс.
- Лайков
- 61
Модели, обученные на нём
- mradermacher/Zhi-writing-dsr1-14b-GGUF 1,9 тыс.
- mradermacher/Zhi-Create-DSR1-14B-i1-GGUF 1,4 тыс.
- mradermacher/Zhi-writing-dsr1-14b-i1-GGUF 978
- mradermacher/Fast-Math-R1-14B-GGUF 600
- mradermacher/Zhi-Create-DSR1-14B-GGUF 388
- RabotniKuma/Fast-Math-R1-14BГенерация текста 34
- Zhihu-ai/Zhi-Create-DSR1-14BГенерация текста 28
- Zhihu-ai/Zhi-Create-DSR1-14B-GPTQ-INT4Генерация текста 18
Как загрузить
from datasets import load_dataset
ds = load_dataset("qihoo360/Light-R1-SFTData")