Датасет · mlfoundations
HTML-часть MINT-1T для мультимодального претрейна
mlfoundations/MINT-1T-HTML
Англоязычный HTML-корпус MINT-1T: часть открытого мультимодального датасета на 1 трлн токенов и 3,4 млрд изображений.
Что внутри
Репозиторий MINT-1T-HTML содержит HTML-тексты из открытого мультимодального датасета MINT-1T, собранного командой University of Washington. В карточке указаны 1 трлн текстовых токенов и 3,4 млрд изображений, включая PDF и статьи arXiv; это в 10 раз больше существовавших открытых мультимодальных датасетов. Язык — английский, размер по метаданным — от 100 млн до 1 млрд.
Что можно сделать
- Претрейн мультимодальной LLM на HTML-текстах и изображениях
- Дообучение LoRA для задач image-to-text
- Проверка моделей на интерлив-данных
- Задачи
- Картинка → текст, Генерация текста
- Языки
- Английский
- Размер
- 100M–1B записей
- Скачиваний за месяц
- 926,8 тыс.
- Лайков
- 125
Модели, обученные на нём
Как загрузить
from datasets import load_dataset
ds = load_dataset("mlfoundations/MINT-1T-HTML")