Датасет · Yukang
LongAlpaca-12k: длинные инструкции для LLM
Yukang/LongAlpaca-12k
Датасет long instruction-following на 12 тыс. примеров для обучения LLM работе с длинным контекстом.
Что внутри
LongAlpaca-12k — датасет long instruction-following, выпущенный вместе с LongLoRA и моделями LongAlpaca-7B, LongAlpaca-13B и LongAlpaca-70B. Модальность — текст, размер — от 10 тыс. до 100 тыс. примеров. Язык в метаданных не указан.
Что можно сделать
- SFT LLM для длинного контекста
- Обучение LongLoRA-адаптера на инструкциях
- Проверка модели на long-context instruction following
- Размер
- 10K–100K записей
- Скачиваний за месяц
- 787
- Лайков
- 87
Модели, обученные на нём
- bartowski/OpenChat-3.5-0106_32K-PoSE-GGUFГенерация текста 610
- mradermacher/OpenChat-3.5-0106_32K-PoSE-i1-GGUF 199
- mradermacher/OpenChat-3.5-0106_32K-PoSE-GGUF 107
- changminbark/gemma-3-1b-it-ttt-longalpaca-fullГенерация текста 16
- ngocbh/TrimKV-Phi-3-mini-128k-instructГенерация текста 13
- ZengXiangyu/Llama-2-7b-HiCI-16k-SFT 7
Как загрузить
from datasets import load_dataset
ds = load_dataset("Yukang/LongAlpaca-12k")