К содержимому

Датасет · mlfoundations

Сбалансированный мультимодальный корпус DCVLM на 200B токенов

mlfoundations/dcvlm-balanced-200b

Очищенный датасет из 112 млн пар изображение-текст на 6 языках в формате WebDataset для претрейна мультимодальных моделей.

Что внутри

Набор содержит 112 358 849 примеров (200 миллиардов токенов), отобранных и сбалансированных из пула DCVLM-large авторами статьи DataComp-VLM. Внутри лежат пары изображений и текстов на английском, китайском, немецком, французском, японском и корейском языках, прошедшие деконтаминацию. Данные упакованы в плоские tar-архивы формата WebDataset.

Что можно сделать

  • Претрейн мультимодальных моделей (VLM) с нуля на сбалансированной смеси данных
  • Дообучение визуально-языковых моделей для задач VQA и понимания изображений на шести языках
Задачи
Картинка + текст, Вопросы по картинкам
Языки
Английский, Китайский, Немецкий, Французский, Японский, Корейский, la, fi и ещё 4
Размер
10K–100K записей
Скачиваний за месяц
67,7 тыс.
Лайков
2

Как загрузить

from datasets import load_dataset

ds = load_dataset("mlfoundations/dcvlm-balanced-200b")