Датасет · RyokoAI
Статьи с 23 тысяч вики-проектов Fandom
RyokoAI/Fandom23K
Огромный англоязычный корпус из более чем 15,6 млн статей с портала Fandom.com для претрейна и генерации текстов.
Что внутри
Датасет содержит 15 616 749 текстовых статей на английском языке, собранных примерно с 23 665 вики-сайтов на платформе Fandom.com в марте 2023 года. Данные представляют собой часть более крупного корпуса BigKnow2022. Пометка в карточке предупреждает, что набор пока не полностью завершен и часть информации может быть неточной.
Что можно сделать
- Неконтролируемый претрейн или продолжение обучения (CPT) языковых моделей на знаниях поп-культуры и лоре
- Обучение моделей классификации текстов и генерации энциклопедических статей
- Задачи
- Классификация текста, Генерация текста
- Языки
- Английский
- Размер
- 1M–10M записей
- Скачиваний за месяц
- 879
- Лайков
- 32
Модели, обученные на нём
- TheBloke/CausalLM-7B-GGUFГенерация текста 6,6 тыс.
- TheBloke/CausalLM-14B-GGUFГенерация текста 4,4 тыс.
- tastypear/CausalLM-7B-DPO-alpha-GGUFГенерация текста 2,4 тыс.
- tastypear/CausalLM-14B-DPO-alpha-GGUFГенерация текста 2,1 тыс.
- CausalLM/7B-DPO-alphaГенерация текста 907
- mradermacher/35b-beta-long-i1-GGUF 766
- CausalLM/14BГенерация текста 630
- bartowski/35b-beta-long-GGUFГенерация текста 486
Как загрузить
from datasets import load_dataset
ds = load_dataset("RyokoAI/Fandom23K")