Датасеты с Hugging Face с описанием на русском: что внутри и какие модели на них обучить. В каталоге уже 1 085, новые добавляются каждый час.
Отвечает DeepSeek · переписка хранится только в этой вкладке
Претрейн-корпус FineWeb2 на 1000+ языках для обучения языковых моделей.
13 679 краудсорсинговых экзаменационных вопросов по физике, химии и биологии с 4 вариантами ответа и пояснениями.
Набор КТ-исследований с парными радиологическими отчётами для обучения и проверки 3D VLM.
860 тыс. математических задач с пошаговыми решениями Chain of Thought для обучения reasoning-моделей.
МРТ головного и спинного мозга с текстовыми заключениями для мультимодальных медицинских моделей.
Крупнейший открытый набор исходного кода с GitHub с полным контекстом репозиториев для предобучения code LLM.
817 вопросов в 38 категориях для проверки того, насколько модель говорит правду.
Крупный корпус исходного кода на десятках языков программирования с permissive-лицензиями.
12 102 англоязычных вопроса с четырьмя вариантами ответа для проверки commonsense-рассуждений.
Бенчмарк на физический здравый смысл: вопросы с двумя вариантами ответа на английском.
13 948 вопросов с выбором ответа по 52 дисциплинам для оценки китайских foundation-моделей.
14 млн пар «задача — решение» по математике, сгенерированных Llama 3.1 405B для инструктивного дообучения.
Экспертные вопросы с выбором ответа по биологии, физике и химии для проверки сложного научного reasoning.
Бенчмарк по мультимодальному пониманию и reasoning: вопросы с изображениями из многих дисциплин.
5,5 тыс. задач анализа данных: таблица, вопрос и эталонный ответ.
113 тыс. пар вопрос-ответ по Википедии с опорными фактами для ответа по нескольким документам.
Англо-китайский открытый корпус для предобучения языковых моделей, по карточке — 4,69 трлн токенов.
650K+ троек вопрос-ответ-доказательство для чтения и QA на английском.
Очень большой многоязычный корпус NVIDIA для претрейна LLM с математикой, кодом и Q&A.
52 тыс. инструкций и демонстраций от text-davinci-003 для instruction-tuning языковых моделей.
5 трлн токенов веб-текстов, учебных материалов, математики, кода и научных статей для предобучения LLM.
Крупнейший открытый корпус текстов из PDF: 3 трлн токенов, 475 млн документов и 1733 языка.
200 тыс. отфильтрованных диалогов на английском, использованных для обучения Zephyr-7B-β.
Свыше 300 тыс. английских новостных статей CNN и Daily Mail для extractive и abstractive суммаризации.