Flan V2 в удобном формате

Что внутри

Это обработанная версия Flan V2, выложенная в более удобном для доступа формате. Автор не связан с создателями исходного датасета и просто опубликовал файлы после обработки. Размер — 100M–1B; другие детали в карточке не раскрыты.

Что можно сделать

• Instruction tuning языковых моделей
• Эксперименты с миксами задач Flan
• Проверка SFT-пайплайнов

Модели, обученные на нём

• kaist-ai/CoT-T5-3BГенерация текста 98
• MayaPH/opt-flan-iml-6.7bГенерация текста 79
• kaist-ai/CoT-T5-11BГенерация текста 15
• crumb/FLAN-OPT-6.7b-LoRA 14
• crumb/ptune-FLAN-OPT-2.7b 12
• crumb/FLAN-OPT-2.7b-LoRA 10
• crumb/FLAN-OPT-1.3b-LoRA 8
• crumb/ptune-FLAN-OPT-6.7b 7

Как загрузить

from datasets import load_dataset

ds = load_dataset("SirNeural/flan_v2")