Датасет · pankajmathur
Инструкции WizardLM в стиле Orca
pankajmathur/WizardLM_Orca
~55 тыс. англоязычных инструкций с системными промптами Orca для обучения рассуждению.
Что внутри
Датасет содержит около 55 тыс. инструкций на английском языке, сгенерированных с использованием 15 системных инструкций из статьи Orca. Перед каждой инструкцией добавлен системный промпт; данные созданы по подходам Orca, а не обычного instruction tuning. Цель — помочь студенческим моделям вроде orca_mini_13b перенимать цепочку рассуждений у учителя ChatGPT (gpt-3.5-turbo-0301).
Что можно сделать
- SFT студенческой модели по инструкциям Orca
- Дообучить orca_mini_13b или аналог для следования системным промптам
- Проверить обучение цепочкам рассуждений от ChatGPT
- Задачи
- Генерация текста
- Языки
- Английский
- Размер
- 10K–100K записей
- Скачиваний за месяц
- 60
- Лайков
- 69
Модели, обученные на нём
- mradermacher/Mistral-7B-model_45k6e2e4-i1-GGUF 1 тыс.
- mradermacher/falcon-180B-WizardLM_Orca-i1-GGUF 469
- mradermacher/Mistral-7B-model_45k6e2e4-GGUF 413
- Philipp-Sc/mistral-7b-reverse-instructГенерация текста 338
- MaziyarPanahi/Mistral-7B-model_45k6e2e4-Mistral-7B-Instruct-v0.1-GGUFГенерация текста 297
- Aryanne/Wizard-Orca-3B-gguf 271
- maddes8cht/harborwater-wizard-orca-3b-gguf 159
- mindware/arc-codet5-660m 151
Как загрузить
from datasets import load_dataset
ds = load_dataset("pankajmathur/WizardLM_Orca")