Датасет · EleutherAI
Корпус математических текстов Proof-Pile-2
EleutherAI/proof-pile-2
Очень большой англоязычный корпус математических текстов для обучения языковых моделей.
Что внутри
Proof-pile-2 — датасет высококачественных математических текстов на английском языке. Размер — от 10 до 100 млрд единиц по метаданным; задача — text-generation. В карточке нет подробностей о составе и формате.
Что можно сделать
- Предобучение и дообучение LLM на математике
- Проверка языкового моделирования математических текстов
- Дообучение LoRA для математических рассуждений
- Задачи
- Генерация текста
- Языки
- Английский
- Размер
- 10B–100B записей
- Скачиваний за месяц
- 23,6 тыс.
- Лайков
- 245
Модели, обученные на нём
- stabilityai/stable-code-3bГенерация текста 6,5 тыс.
- mradermacher/llemma_34b-i1-GGUF 3,2 тыс.
- mradermacher/stable-code-3b-i1-GGUF 3,1 тыс.
- mradermacher/llemma_7b-i1-GGUF 2,7 тыс.
- TheBloke/stable-code-3b-GGUF 2,6 тыс.
- mradermacher/stable-code-3b-GGUF 2,4 тыс.
- marin-community/marin-8b-baseГенерация текста 2,2 тыс.
- QuantFactory/stable-code-3b-GGUFГенерация текста 1,6 тыс.
Как загрузить
from datasets import load_dataset
ds = load_dataset("EleutherAI/proof-pile-2")