Датасет · PrimeIntellect
Данные RL-обучения модели INTELLECT-2
PrimeIntellect/INTELLECT-2-RL-Dataset
Датасет для RL-обучения 32B-модели INTELLECT-2 с GRPO по проверяемым наградам.
Что внутри
Датасет связан с RL-обучением языковой модели INTELLECT-2 на 32 млрд параметров. Модель тренировали через распределённое асинхронное RL в prime-rl, используя GRPO по проверяемым наградам и модификации для стабильности обучения. Подробности инфраструктуры и рецепта — в техническом отчёте. Язык и точный состав примеров в карточке не раскрыты.
Что можно сделать
- Воспроизвести RL-обучение с GRPO на проверяемых наградах
- Проверить пайплайн распределённого асинхронного RL
- Изучить данные для дообучения модели масштаба 32B
- Размер
- 100K–1M записей
- Скачиваний за месяц
- 372
- Лайков
- 69
Модели, обученные на нём
Как загрузить
from datasets import load_dataset
ds = load_dataset("PrimeIntellect/INTELLECT-2-RL-Dataset")