Датасет · Muennighoff
Предобработанные инструкции Super-Natural
Muennighoff/natural-instructions
Большой английский набор инструкций для обучения LLM следовать задачам; предобработанная версия Super-Natural-Instructions.
Что внутри
Предобработанная версия Super-Natural-Instructions из репозитория AllenAI. Это множество задач instruction tuning на английском; в карточке перечислены тренировочные задачи, например quoref и cosmosqa. Размер — от 100 млн до 1 млрд примеров. Одинаковые входы могут встречаться с разными выходами, поэтому для дедупликации советуют поля id или inputs.
Что можно сделать
- Обучить LLM следовать инструкциям
- Провести SFT на большом наборе задач
- Проверить zero-shot качество на инструкциях
- Задачи
- Другое
- Языки
- Английский
- Размер
- 100M–1B записей
- Скачиваний за месяц
- 5,7 тыс.
- Лайков
- 87
Модели, обученные на нём
- jondurbin/bagel-dpo-34b-v0.2Генерация текста 9,1 тыс.
- jondurbin/bagel-dpo-34b-v0.5Генерация текста 9 тыс.
- jondurbin/bagel-8b-v1.0Генерация текста 9 тыс.
- mradermacher/bagel-34b-v0.5-i1-GGUF 3,8 тыс.
- mradermacher/bagel-dpo-34b-v0.5-i1-GGUF 3,7 тыс.
- mradermacher/bagel-dpo-20b-v04-i1-GGUF 2,4 тыс.
- mradermacher/UNA-34Beagles-32K-bf16-v1-i1-GGUF 2 тыс.
- mradermacher/bagel-dpo-20b-v04-GGUF 1,9 тыс.
Как загрузить
from datasets import load_dataset
ds = load_dataset("Muennighoff/natural-instructions")