Датасет · nvidia
Претрейн-корпус Nemotron-CC v2.1
nvidia/Nemotron-CC-v2.1
Обновлённые данные для претрейна LLM: математика, код, английский Common Crawl и синтетика.
Что внутри
Датасет расширяет предыдущие претрейн-наборы Nemotron более свежими, качественными и разнообразными данными. Внутри — математика, код, английский Common Crawl и крупные синтетические корпуса. Обновление добавляет новую добычу кода из Common Crawl и 2,5T новых английских веб-данных; набор рассчитан на семейство Nemotron 3.
Что можно сделать
- Претрейн LLM семейства Nemotron
- Продолжение претрейна на коде и математике
- Исследование качества веб- и синтетических данных
- Задачи
- Генерация текста
- Размер
- 1B–10B записей
- Скачиваний за месяц
- 24,6 тыс.
- Лайков
- 146
- Доступ
- по запросу на Hugging Face
Модели, обученные на нём
- nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16Генерация текста 1,5 млн
- nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-NVFP4Генерация текста 622,9 тыс.
- nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-FP8Генерация текста 127,2 тыс.
- skt/A.X-K2-NVFP4Генерация текста 84,8 тыс.
- unsloth/Nemotron-3-Nano-30B-A3B-GGUFГенерация текста 39,4 тыс.
- lmstudio-community/NVIDIA-Nemotron-3-Nano-30B-A3B-MLX-4bitГенерация текста 32,2 тыс.
- lmstudio-community/NVIDIA-Nemotron-3-Nano-30B-A3B-MLX-8bitГенерация текста 28,7 тыс.
- lmstudio-community/NVIDIA-Nemotron-3-Nano-30B-A3B-MLX-6bitГенерация текста 28,2 тыс.
Как загрузить
from datasets import load_dataset
ds = load_dataset("nvidia/Nemotron-CC-v2.1")