Датасет · argilla
Улучшенные DPO-пары Orca от Argilla
argilla/distilabel-intel-orca-dpo-pairs
10K–100K пар предпочтений для DPO — переработанная версия Intel Orca DPO Pairs.
Что внутри
Это «distilabeled»-версия популярного датасета Intel/orca_dpo_pairs. Оригинал использовали сотни open-source практиков и моделей. Argilla улучшила его с помощью distilabel, чтобы сделать более качественный датасет для alignment открытых LLM. В метаданных — только тексты, размер 10K–100K.
Что можно сделать
- DPO-обучение открытой LLM
- Сравнение с оригинальным Intel Orca DPO Pairs
- Оценка качества пар предпочтений
- Размер
- 10K–100K записей
- Скачиваний за месяц
- 10,3 тыс.
- Лайков
- 188
Модели, обученные на нём
- jondurbin/bagel-dpo-34b-v0.5Генерация текста 9 тыс.
- jondurbin/bagel-8b-v1.0Генерация текста 9 тыс.
- jondurbin/airoboros-dpo-70b-3.3Генерация текста 9 тыс.
- mradermacher/bagel-34b-v0.5-i1-GGUF 3,8 тыс.
- mradermacher/bagel-dpo-34b-v0.5-i1-GGUF 3,7 тыс.
- mradermacher/bagel-dpo-20b-v04-i1-GGUF 2,4 тыс.
- mradermacher/bagel-dpo-20b-v04-GGUF 1,9 тыс.
- mradermacher/bagel-8b-v1.0-i1-GGUF 1,8 тыс.
Как загрузить
from datasets import load_dataset
ds = load_dataset("argilla/distilabel-intel-orca-dpo-pairs")