Датасет · karpathy
Крошечный корпус Шекспира для языкового моделирования
karpathy/tiny_shakespeare
40 тысяч строк из пьес Шекспира для обучения посимвольных и небольших языковых моделей.
Что внутри
В датасете около 40 000 строк из разных пьес Шекспира. Он известен по статье Андрея Карпати о рекуррентных нейросетях и подходит для посимвольного моделирования. Пример в карточке показывает, как загрузить текст, разбить его на символы и собрать последовательности.
Что можно сделать
- Обучать маленькую посимвольную языковую модель
- Тестировать RNN или мини-трансформер на генерации текста
- Проверять пайплайн загрузки и токенизации на простом корпусе
- Скачиваний за месяц
- 9,3 тыс.
- Лайков
- 102
Модели, обученные на нём
- lillycham/tiny-lm-shakespeareГенерация текста 227
- QuixiAI/FlyGPTГенерация текста 131
- shalev396/tiny-shakespeare-chatГенерация текста 98
- pavelklymenko/smollm2-135m-shakespeareГенерация текста 77
- pandeyps/GemmaГенерация текста 18
- NataliiaM15/decoder-shakespeare-gptГенерация текста 16
- Shivam3002/OxMiniГенерация текста 15
- delcenjo/char-transformer-shakespeareГенерация текста 12
Как загрузить
from datasets import load_dataset
ds = load_dataset("karpathy/tiny_shakespeare")