К содержимому

Датасет · mlfoundations

Мультимодальный корпус DCVLM-Baseline на 200B токенов

mlfoundations/dcvlm-baseline-200b

Очищенная смесь из 103,9 млн пар «картинка-текст» на 6 языках в формате WebDataset для претрейна VLM-моделей.

Что внутри

Референсная смесь данных из научной работы DataComp-VLM, полностью очищенная от дубликатов и готовая к обучению мультимодальных моделей. Релиз включает 103 985 276 примеров (около 200 миллиардов токенов) на английском, китайском, немецком, французском, японском и корейском языках. Данные упакованы в плоские архивы tar (формат WebDataset), что позволяет скармливать их любому тренировочному стеку.

Что можно сделать

  • Претрейн (предварительное обучение) мультимодальных языковых моделей (VLM)
  • Обучение и оценка систем визуального ответа на вопросы (VQA) на шести языках
Задачи
Картинка + текст, Вопросы по картинкам
Языки
Английский, Китайский, Немецкий, Французский, Японский, Корейский, la, fi и ещё 4
Размер
10K–100K записей
Скачиваний за месяц
77,1 тыс.
Лайков
9

Модели, обученные на нём

Как загрузить

from datasets import load_dataset

ds = load_dataset("mlfoundations/dcvlm-baseline-200b")