Датасет · nampdn-ai
1,6 млн коротких код-сниппетов для обучения рассуждениям
nampdn-ai/tiny-codes
Синтетические короткие примеры кода на 13 языках программирования и БД — чтобы LLM учились рассуждать кодом.
Что внутри
Синтетический корпус примерно из 1,6 млн коротких и понятных фрагментов кода на английском. Покрывает Python, TypeScript, JavaScript, Ruby, Julia, Rust, C++, Bash, Java, C#, Go, а также языки запросов Cypher (графовые БД) и SQL (реляционные БД). Собран специально для обучения LLM связывать естественный язык и программирование.
Что можно сделать
- SFT небольшой код-модели на коротких примерах
- Обучение LoRA для задач code reasoning
- Проверка модели на генерацию кода по описанию на естественном языке
- Задачи
- Генерация текста
- Языки
- Английский
- Размер
- 1M–10M записей
- Скачиваний за месяц
- 907
- Лайков
- 309
- Доступ
- по запросу на Hugging Face
Модели, обученные на нём
Как загрузить
from datasets import load_dataset
ds = load_dataset("nampdn-ai/tiny-codes")