Датасет · mlfoundations
Сбалансированный мультимодальный корпус DCVLM на 200B токенов
mlfoundations/dcvlm-balanced-200b
Очищенный датасет из 112 млн пар изображение-текст на 6 языках в формате WebDataset для претрейна мультимодальных моделей.
Что внутри
Набор содержит 112 358 849 примеров (200 миллиардов токенов), отобранных и сбалансированных из пула DCVLM-large авторами статьи DataComp-VLM. Внутри лежат пары изображений и текстов на английском, китайском, немецком, французском, японском и корейском языках, прошедшие деконтаминацию. Данные упакованы в плоские tar-архивы формата WebDataset.
Что можно сделать
- Претрейн мультимодальных моделей (VLM) с нуля на сбалансированной смеси данных
- Дообучение визуально-языковых моделей для задач VQA и понимания изображений на шести языках
- Задачи
- Картинка + текст, Вопросы по картинкам
- Языки
- Английский, Китайский, Немецкий, Французский, Японский, Корейский, la, fi и ещё 4
- Размер
- 10K–100K записей
- Скачиваний за месяц
- 67,7 тыс.
- Лайков
- 2
Как загрузить
from datasets import load_dataset
ds = load_dataset("mlfoundations/dcvlm-balanced-200b")