Датасет · nvidia
5 млн инструкций для кодовых LLM
nvidia/OpenCodeInstruct
5 млн примеров для SFT кодовых LLM: разнообразные инструкции на английском от NVIDIA.
Что внутри
Датасет содержит 5 млн разнообразных примеров для supervised fine-tuning (SFT) кодовых LLM. Это крупнейший открытый instruction tuning датасет, по заявлению авторов; язык — английский. В карточке есть технический отчёт, GitHub-пайплайн для SFT и пометка, что данные готовы к использованию.
Что можно сделать
- Дообучить кодовую LLM на SFT
- Проверить instruction following в генерации кода
- Сравнить качество кодовых моделей после SFT
- Задачи
- Генерация текста
- Языки
- Английский
- Размер
- 1M–10M записей
- Скачиваний за месяц
- 54,5 тыс.
- Лайков
- 120
Модели, обученные на нём
Как загрузить
from datasets import load_dataset
ds = load_dataset("nvidia/OpenCodeInstruct")