Датасет · opencsg
Китайский корпус Fineweb Edu V2
opencsg/chinese-fineweb-edu-v2
Крупный китайский корпус для предобучения; версия V2 помечена как устаревшая.
Что внутри
Chinese Fineweb Edu Dataset V2 — обновление китайского корпуса Fineweb Edu для NLP-задач в образовательной сфере. Это высококачественные китайские тексты для предобучения; размер — от 100 млн до 1 млрд примеров. Версия помечена как устаревшая, рекомендуется Fineweb-edu-chinese-v2.1.
Что можно сделать
- Предобучение китайской языковой модели
- Дообучение LoRA на китайских образовательных текстах
- Фильтрация и подготовка pretraining-корпуса
- Задачи
- Генерация текста
- Языки
- Китайский
- Размер
- 100M–1B записей
- Скачиваний за месяц
- 7,1 тыс.
- Лайков
- 75
Модели, обученные на нём
Как загрузить
from datasets import load_dataset
ds = load_dataset("opencsg/chinese-fineweb-edu-v2")