Датасет · mlfoundations
Мультимодальный корпус DCVLM-Baseline на 200B токенов
mlfoundations/dcvlm-baseline-200b
Очищенная смесь из 103,9 млн пар «картинка-текст» на 6 языках в формате WebDataset для претрейна VLM-моделей.
Что внутри
Референсная смесь данных из научной работы DataComp-VLM, полностью очищенная от дубликатов и готовая к обучению мультимодальных моделей. Релиз включает 103 985 276 примеров (около 200 миллиардов токенов) на английском, китайском, немецком, французском, японском и корейском языках. Данные упакованы в плоские архивы tar (формат WebDataset), что позволяет скармливать их любому тренировочному стеку.
Что можно сделать
- Претрейн (предварительное обучение) мультимодальных языковых моделей (VLM)
- Обучение и оценка систем визуального ответа на вопросы (VQA) на шести языках
- Задачи
- Картинка + текст, Вопросы по картинкам
- Языки
- Английский, Китайский, Немецкий, Французский, Японский, Корейский, la, fi и ещё 4
- Размер
- 10K–100K записей
- Скачиваний за месяц
- 77,1 тыс.
- Лайков
- 9
Модели, обученные на нём
Как загрузить
from datasets import load_dataset
ds = load_dataset("mlfoundations/dcvlm-baseline-200b")