Датасет · llm-jp
Синтетический SFT-датасет на японском языке по методу Magpie
llm-jp/magpie-sft-v1.0
От 100K до 1M пар инструкция-ответ на японском языке для SFT-обучения, сгенерированных моделями Calm3 и Qwen2.5.
Что внутри
Датасет подготовлен японским консорциумом LLM-jp и содержит от 100 тысяч до 1 миллиона текстовых пар «инструкция — ответ» на японском языке. Данные собраны полностью синтетически по методу Magpie: запросы сгенерированы моделью cyberagent/calm3-22b-chat, а ответы написаны Qwen/Qwen2.5-32B-Instruct.
Что можно сделать
- SFT-дообучение языковых моделей для работы на японском языке
- Дистилляция знаний из Qwen2.5-32B в более компактные модели
- Адаптация мультиязычных LLM под японские инструкции и стиль общения
- Задачи
- Генерация текста
- Языки
- Японский
- Размер
- 100K–1M записей
- Скачиваний за месяц
- 915
- Лайков
- 23
Модели, обученные на нём
- Kendamarron/Qwen2.5-1.75B-A1.1B-Instruct-jaГенерация текста 636
- hmwri/mlab-LLM-MoE-900MГенерация текста 545
- nagohachi/tiny-lm-v3-japanese-1.5b-a500m-sftГенерация текста 526
- nagohachi/Llama-3.2-tiny-lm-v2-japanese-500m-sftГенерация текста 430
- nagohachi/tiny-lm-v1-japanese-500m-sftГенерация текста 349
- pokutuna/llm2024-competition 219
- shivamjha98/Agnes-8BГенерация текста 56
- tokutsu/japanese-answer-13b-8bit 48
Как загрузить
from datasets import load_dataset
ds = load_dataset("llm-jp/magpie-sft-v1.0")