Датасет · nvidia
Сэмпл предобучающего набора NVIDIA
nvidia/Nemotron-Pretraining-Dataset-sample
Фрагмент предобучающего датасета NVIDIA: математика, код и многоязычные Q&A для LLM.
Что внутри
Это сэмпл Nemotron-Pre-Training-Dataset-v1 для обучения генеративных моделей. В нём сохраняют ценную математику и код и добавляют разнообразные многоязычные Q&A. Набор связан с семейством NVIDIA Nemotron Nano 2, включая NVIDIA-Nemotron-Nano-9B-v2 и 9B-v2-Base; размер сэмпла 10K–100K, модальность text.
Что можно сделать
- Продолжить предобучение небольшой LLM
- Проверить качество на математике и коде
- Дообучить LoRA под математические задачи
- Размер
- 10K–100K записей
- Скачиваний за месяц
- 717
- Лайков
- 68
Модели, обученные на нём
- nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16Генерация текста 1,5 млн
- nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-NVFP4Генерация текста 599,6 тыс.
- nvidia/NVIDIA-Nemotron-Nano-9B-v2-FP8Генерация текста 190,8 тыс.
- nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-FP8Генерация текста 134 тыс.
- nvidia/NVIDIA-Nemotron-Nano-9B-v2Генерация текста 116,2 тыс.
- unsloth/Nemotron-3-Nano-30B-A3B-GGUFГенерация текста 39,1 тыс.
- lmstudio-community/NVIDIA-Nemotron-3-Nano-30B-A3B-MLX-4bitГенерация текста 32,4 тыс.
- lmstudio-community/NVIDIA-Nemotron-3-Nano-30B-A3B-MLX-8bitГенерация текста 28,9 тыс.
Как загрузить
from datasets import load_dataset
ds = load_dataset("nvidia/Nemotron-Pretraining-Dataset-sample")