Датасет · nvidia
Математика и код для предобучения LLM
nvidia/Nemotron-Pretraining-Code-v1
Корпус для предобучения генеративных моделей с математикой, кодом и многоязычными Q&A.
Что внутри
Датасет для предобучения генеративных моделей сохраняет ценные математические и кодовые данные. Он дополнен разнообразными многоязычными парами вопрос-ответ. Поддерживает семейство NVIDIA Nemotron Nano 2, включая 9B-модели.
Что можно сделать
- Предобучение Nemotron Nano 2
- Дообучение code и math LLM
- SFT на многоязычных Q&A
- Задачи
- Генерация текста
- Размер
- 100M–1B записей
- Скачиваний за месяц
- 4,8 тыс.
- Лайков
- 83
- Доступ
- по запросу на Hugging Face
Модели, обученные на нём
- nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16Генерация текста 1,5 млн
- nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-NVFP4Генерация текста 622,9 тыс.
- nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-FP8Генерация текста 127,2 тыс.
- unsloth/Nemotron-3-Nano-30B-A3B-GGUFГенерация текста 39,4 тыс.
- lmstudio-community/NVIDIA-Nemotron-3-Nano-30B-A3B-MLX-4bitГенерация текста 32,2 тыс.
- lmstudio-community/NVIDIA-Nemotron-3-Nano-30B-A3B-MLX-8bitГенерация текста 28,7 тыс.
- lmstudio-community/NVIDIA-Nemotron-3-Nano-30B-A3B-MLX-6bitГенерация текста 28,2 тыс.
- lmstudio-community/NVIDIA-Nemotron-3-Nano-30B-A3B-MLX-5bitГенерация текста 28,1 тыс.
Как загрузить
from datasets import load_dataset
ds = load_dataset("nvidia/Nemotron-Pretraining-Code-v1")