Датасет · Open-Orca
Дополненный FLAN для обучения инструкциям
Open-Orca/OpenOrca
Коллекция дополненных FLAN-данных, выровненная с распределением Orca, для обучения инструкциям.
Что внутри
OpenOrca — коллекция аугментированных FLAN-данных, максимально приближенная к распределению из статьи Orca. Данные использовались для получения сильных чекпоинтов моделей; в карточке упомянута Mistral-7B-OpenOrca. Размер 1M–10M, язык en, модальность text.
Что можно сделать
- SFT для instruction tuning
- Обучение LoRA-адаптера
- Проверка instruction following
- Задачи
- Классификация текста, Разметка токенов, Вопросы по таблицам, Вопрос-ответ, Zero-shot классификация, Суммаризация
- Языки
- Английский
- Размер
- 1M–10M записей
- Скачиваний за месяц
- 13 тыс.
- Лайков
- 1,6 тыс.
Модели, обученные на нём
- upstage/SOLAR-10.7B-Instruct-v1.0Генерация текста 48,7 тыс.
- uukuguy/speechless-code-mistral-7b-v1.0Генерация текста 9 тыс.
- TheBloke/Mistral-7B-OpenOrca-GGUFГенерация текста 8,9 тыс.
- TheBloke/CausalLM-7B-GGUFГенерация текста 6,7 тыс.
- TheBloke/CausalLM-14B-GGUFГенерация текста 4,5 тыс.
- tastypear/CausalLM-14B-DPO-alpha-GGUFГенерация текста 3,6 тыс.
- TheBloke/PuddleJumper-13B-GGUF 2,8 тыс.
- mradermacher/SpydazWeb_AI_LCARS_Humanization_003-i1-GGUF 2,6 тыс.
Как загрузить
from datasets import load_dataset
ds = load_dataset("Open-Orca/OpenOrca")