Датасеты с Hugging Face с описанием на русском: что внутри и какие модели на них обучить. В каталоге уже 1 103, новые добавляются каждый час.
Отвечает DeepSeek · переписка хранится только в этой вкладке
Англоязычный SFT-датасет от NVIDIA с траекториями для обучения LLM работе в терминале.
Набор для проверки reward-моделей на чатах, сложных диалогах и предпочтениях; только английский текст.
Диалоги разработчиков с AI-ассистентами: вызовы инструментов, трассы размышлений и правки кода.
Более 1 трлн токенов параллельных текстов на английском и 500+ языках для машинного перевода.
Большая многоязычная коллекция текстов для классификации, суммаризации и перевода.
Визуальные математические задачи с изображениями и текстом для проверки VLM.
Корпус для предобучения OLMo-2-1124: DCLM-Baseline, Arxiv, pes2o, StarCoder и др.
350B+ токенов учебных PDF, отфильтрованных из FinePDFs классификатором образовательного качества.
Пары вопрос-ответ и исполняемые reasoning-трейсы по реальным Kaggle-ноутбукам для анализа данных.
18 млн сигналов дистилляции из 73 открытых моделей и 7 тыс. GitHub-репозиториев для обучения текстовых моделей.
Вопросы и ответы Stack Overflow с минимум двумя ответами для preference-моделей и instruction fine-tuning.
Задачи из стран и соревнований с изображениями и текстом для QA и генерации решений.
Китайский предтренировочный корпус 10–100 млн текстов, отобранных для образовательных NLP-задач.
Высококачественный набор инструкций на китайском для SFT из интернет-вопросов и статей.
Очищенные пары предпочтений из UltraFeedback для fine-tuning языковых моделей.
Крупный английский корпус, отредактированный фреймворком UltraX для предобучения языковых моделей.
Картинки и подписи из конкурса New Yorker для проверки понимания юмора моделями.
Коллекция дополненных FLAN-данных, выровненная с распределением Orca, для обучения инструкциям.
Большой англоязычный корпус из открытых датасетов с фильтрацией и дедупликацией для обучения LM.
Предобработанные датасеты для RAG-исследований: 36 бенчмарков и ресурсы FlashRAG.
Задачи по математике с цепочками рассуждений и программами для обучения инструкционных моделей.
5 017 траекторий SWE-agent + Claude 3.7 Sonnet, на которых дообучали Qwen 2.5 Coder Instruct.
Код на многих языках программирования с permissive-лицензиями после near-дедупликации, около 1,5 ТБ.
Задачи LeetCode на Python для обучения и оценки кодовых LLM; текст на английском, 1–10 тыс. примеров.