Датасеты с Hugging Face с описанием на русском: что внутри и какие модели на них обучить. В каталоге уже 1 085, новые добавляются каждый час.
Отвечает DeepSeek · переписка хранится только в этой вкладке
290 млрд токенов математических данных на английском и китайском в трёх уровнях для претрейна LLM.
385 тыс. человеческих предпочтений полезности ответов на вопросы в 18 темах.
10 тыс. задач по Python — от однострочных до алгоритмических — для оценки и обучения генерации кода.
Подвыборка The Stack: по 10 тыс. случайных примеров кода на каждый из 30 языков, 2,6 ГБ.
Большой китайский датасет веб-текстов с фильтрацией и дедупликацией для предобучения языковых моделей.
Диалоги для обучения LLM вызову функций, JSON-режиму и структурированному извлечению.
Около 40 млн открытых научных статей на английском, очищенных для предобучения языковых моделей.
Очищенный многоязычный корпус на 167 языках объёмом 6,3 трлн токенов для обучения LLM.
Высококачественная смесь веб-текстов, статей, энциклопедий и кода для второго этапа обучения OLMo2.
900 промптов для проверки агентов на сложных многошаговых задачах поиска информации в 17 областях.
Деконтаминированная версия evol-codealpaca-v1 для обучения генерации кода без утечек тестов.
Задачи по программированию с рассуждениями, прямыми ответами и синтезом заданий в Parquet.
Огромный англоязычный корпус веб-страниц с образовательным фильтром для предобуче��ия языковых моделей.
Обновлённые данные для претрейна LLM: математика, код, английский Common Crawl и синтетика.
Синтетические personas на основе демографии, географии и черт характера жителей Вьетнама.
3,2 млн диалогов людей с ChatGPT без токсичных входов и ответов.
Набор инструкций по программированию на английском для обучения генерации кода с обратной связью.
Очень большой англоязычный корпус математических текстов для обучения языковых моделей.
Параллельные тексты для оценки машинного перевода на многих языках, включая редкие.
LHTB проверяет, как LLM-агенты удерживают полезную работу в контейнерном терминале на сотнях шагов.
Исправленная версия Stanford Alpaca для инструкционного дообучения на английском.
Структурированные тексты исторических газет на английском для предобучения LLM и RAG.
18 тыс. описаний задач и решений на Python в Alpaca-формате для обучения генерации кода.
783 ГБ кода на 86 языках с GitHub Issues, Jupyter-ноутбуками и коммитами — около 250 млрд токенов.