Датасеты с Hugging Face с описанием на русском: что внутри и какие модели на них обучить. В каталоге уже 1 085, новые добавляются каждый час.
Отвечает DeepSeek · переписка хранится только в этой вкладке
860 тыс. математических задач с пошаговыми решениями Chain of Thought для обучения reasoning-моделей.
Крупнейший открытый набор исходного кода с GitHub с полным контекстом репозиториев для предобучения code LLM.
817 вопросов в 38 категориях для проверки того, насколько модель говорит правду.
Крупный корпус исходного кода на десятках языков программирования с permissive-лицензиями.
12 102 англоязычных вопроса с четырьмя вариантами ответа для проверки commonsense-рассуждений.
13 948 вопросов с выбором ответа по 52 дисциплинам для оценки китайских foundation-моделей.
14 млн пар «задача — решение» по математике, сгенерированных Llama 3.1 405B для инструктивного дообучения.
Экспертные вопросы с выбором ответа по биологии, физике и химии для проверки сложного научного reasoning.
Бенчмарк по мультимодальному пониманию и reasoning: вопросы с изображениями из многих дисциплин.
5,5 тыс. задач анализа данных: таблица, вопрос и эталонный ответ.
113 тыс. пар вопрос-ответ по Википедии с опорными фактами для ответа по нескольким документам.
Англо-китайский открытый корпус для предобучения языковых моделей, по карточке — 4,69 трлн токенов.
650K+ троек вопрос-ответ-доказательство для чтения и QA на английском.
Очень большой многоязычный корпус NVIDIA для претрейна LLM с математикой, кодом и Q&A.
52 тыс. инструкций и демонстраций от text-davinci-003 для instruction-tuning языковых моделей.
Крупнейший открытый корпус текстов из PDF: 3 трлн токенов, 475 млн документов и 1733 языка.
200 тыс. отфильтрованных диалогов на английском, использованных для обучения Zephyr-7B-β.
Свыше 300 тыс. английских новостных статей CNN и Daily Mail для extractive и abstractive суммаризации.
30 задач AIME 2024 на английском в JSONL для проверки математического reasoning.
306 тыс. задач и миллионы решений CoT/TIR для обучения математическому reasoning LLM.
194 тыс. медицинских экзаменационных вопросов с вариантами ответов на английском.
Корпус веб- и вопросно-ответных текстов для предобучения моделей из релиза K2 Horizon.
Набор задач по спортивному программированию с разных платформ для обучения и проверки моделей.
Крупнейший очищенный корпус для предобучения на 22 индийских языках, 251 млрд токенов.