Датасет · QuixiAI
Синтетические инструкции Dolphin в стиле Orca
QuixiAI/dolphin
Около 4,5 млн синтетических примеров FLANv2 с ответами GPT-4 и GPT-3.5 для инструкционной настройки.
Что внутри
Dolphin — англоязычный текстовый датасет, попытка воспроизвести результаты Microsoft Orca. В нём около 1 млн примеров FLANv2 с дополнениями от GPT-4 и около 3,5 млн примеров FLANv2 с дополнениями от GPT-3.5. Использованы распределение сабмиксов и системных промптов из статьи Orca, включая все 75K CoT в FLAN-1m.
Что можно сделать
- Обучить инструкционную LLM
- Дообучить LoRA на синтетических ответах
- Сравнить с Orca-подобными моделями
- Задачи
- Генерация текста
- Языки
- Английский
- Размер
- 1M–10M записей
- Скачиваний за месяц
- 1,7 тыс.
- Лайков
- 448
Модели, обученные на нём
Как загрузить
from datasets import load_dataset
ds = load_dataset("QuixiAI/dolphin")