Датасет · GAIR
MathPile: корпус математических текстов
GAIR/MathPile
Большой английский корпус математических текстов для обучения языковых моделей; есть cleaner-версия v0.2.
Что внутри
Английский корпус математических текстов объёмом от 1 до 10 млрд единиц по метаданным. В карточке упомянуты очищенная версия v0.2 с исправлениями формул в Wikipedia и arXiv, а также коммерческая версия MathPile_Commercial. Подробный состав и формат в начале карточки не раскрыты.
Что можно сделать
- Continued pretraining математической LLM
- Дообучение модели на математике
- Сравнение версий корпуса
- Языки
- Английский
- Размер
- 1B–10B записей
- Скачиваний за месяц
- 215
- Лайков
- 199
- Доступ
- по запросу на Hugging Face
Модели, обученные на нём
- mradermacher/UNA-POLAR-10.7B-InstructMath-v2-i1-GGUF 1,6 тыс.
- mradermacher/UNA-POLAR-10.7B-InstructMath-v2-GGUF 552
- fblgit/UNA-POLAR-10.7B-InstructMath-v2Генерация текста 60
- fblgit/UNA-POLAR-10.7B-InstructMath-v1Генерация текста 19
- Master2032/AL1 0
- Juanfco/Juanpancho 0
- vahid625/testРазметка токенов 0
- Kazilsky/Petal_ModelГенерация текста 0
Как загрузить
from datasets import load_dataset
ds = load_dataset("GAIR/MathPile")