OpenCodeReasoning
датасет для обучения LLM логике в программировании
1 мин чтения
OpenCodeReasoning от NVIDIA — это крупнейший на сегодня синтетический датасет для supervised fine-tuning (SFT, обучение с учителем) языковых моделей в сфере спортивного программирования. Набор содержит более 735 тысяч примеров на Python, охватывающих 28 319 уникальных задач из популярных платформ вроде CodeForces, LeetCode и AtCoder. Ответы и рассуждения для датасета сгенерированы с помощью модели R1. Датасет пригодится разработчикам, которые обучают или дорабатывают LLM для генерации качественного и логически выверенного кода.
Ключевые особенности
- Огромный масштаб: 735,255 сэмплов на Python по 28,319 задачам.
- Синтетические ответы: все решения и процесс рассуждений сгенерированы R1.
- Источники: задачи собраны с CodeForces, LeetCode, HackerRank, AtCoder и других платформ.
- Открытая лицензия: датасет готов для коммерческого и некоммерческого использования под CC BY 4.0.
Что можно сделать
- Обучить или дообучить LLM для улучшения навыков рассуждения при написании кода.
- Провести исследования в области дистилляции знаний для генерации программного обеспечения.
- Интегрировать данные в пайплайны SFT с использованием инструментов вроде NVIDIA NeMo-Skills.
Пример
Загрузка датасета с помощью библиотеки datasets:
from datasets import load_dataset
ocr_ds_split_0 = load_dataset("nvidia/OpenCodeReasoning", "split_0")
print(ocr_ds_split_0)Подробнее
Общий объем: 735,255 примеров (567,850 в split_0 и 167,405 в split_1)Язык программирования: Python
Платформы задач: CodeForces, CodeChef, LeetCode, AtCoder, HackerRank и др.
Лицензия: CC BY 4.0
Разработчик: NVIDIA








Комментарии