Код для обучения StarCoder на 86 языках
783 ГБ кода на 86 языках с GitHub Issues, Jupyter-ноутбуками и коммитами — около 250 млрд токенов.
- Генерация текста
- Код
Датасеты с Hugging Face с описанием на русском: что внутри и какие модели на них обучить. В каталоге уже 1 103, новые добавляются каждый час.
Отвечает DeepSeek · переписка хранится только в этой вкладке
783 ГБ кода на 86 языках с GitHub Issues, Jupyter-ноутбуками и коммитами — около 250 млрд токенов.
Ежемесячные многоязычные дампы Википедии, подготовленные для загрузки через datasets в NLP-проектах.
176 языков, разметка LOC/PER/ORG в IOB2 на основе статей Википедии.
4,79 млрд взаимодействий и аудиоэмбеддинги для ранжирования и поиска музыки.
Мандаринский корпус с парами аудио-текст на 12 800 часов для обучения и дообучения TTS.
735 тыс. синтетических примеров рассуждений по 28 тыс. задач competitive programming.
64K промптов и 256K ответов LLM с оценками для обучения reward- и critic-моделей.
Сборник instruction-tuning датасетов, приведённых к единому формату Alpaca.
654 тыс. wav-файлов с репликами персонажей Genshin Impact на китайском, английском, японском и корейском.
Набор высококачественных 4K/8K-видео со структурированными подписями для генерации видео.
Полный корпус LaTeX-исходников arXiv, разобранный и выровненный с официальными метаданными в Parquet.
Высококачественные англо- и китайскоязычные веб-тексты L3 с усиленными сигналами рассуждения для обучения LLM.
369 Harbor-сред с задачами из openai/math и проверенными Lean-доказательствами.
Зеркало открытой платформы с пользовательскими промптами для ChatGPT и других ИИ-чатов.
Более миллиона часов англоязычного аудио с Archive.org для ASR и аудиоклассификации.
48 тыс. скринкастов (12,3 тыс. часов) для обучения и проверки видео- и робо-моделей.
Корпус финансовых новостей для анализа рынка, инвесторских настроений и прогнозирования временных рядов.
Медицинские задачи с цепочками рассуждений на английском и китайском для SFT и инициализации reasoning-моделей.
Открытый датасет для обучения reward-моделей и выравнивания полезных ответов; 100 тыс.–1 млн примеров.
90 задач с анонимизированными биологическими данными, где нужен реальный анализ.
Табличные срезы со статистикой моделей, датасетов и Daily Papers с Hugging Face Hub.
10 тыс. троек «исходное изображение — инструкция — результат» для обучения редактированию.
Четыре модифицированных набора LIBERO в формате RLDS для экспериментов по fine-tuning OpenVLA.
Обновлённая Wikipedia из HTML-дампов августа 2025: 325 языков, чистые статьи и метаданные.