Датасет · mlfoundations
Мультимодальный корпус из PDF-документов для предобучения VLM
mlfoundations/MINT-1T-PDF-CC-2024-10
Часть гигантского открытого датасета MINT-1T с чередующимися текстами на английском и изображениями из PDF.
Что внутри
Этот репозиторий представляет собой часть крупного открытого мультимодального датасета MINT-1T от исследователей из Вашингтонского университета (в данном сплите от 1 до 10 млн записей). Внутри лежат чередующиеся англоязычные тексты и изображения, извлечённые из PDF-файлов. Полный проект MINT-1T охватывает 1 триллион текстовых токенов и 3,4 миллиарда картинок, включая научные статьи с ArXiv.
Что можно сделать
- Предобучение мультимодальных языковых моделей (VLM), понимающих сложную вёрстку документов
- Обучение систем извлечения информации и анализа иллюстраций в PDF-файлах
- Задачи
- Картинка → текст, Генерация текста
- Языки
- Английский
- Размер
- 1M–10M записей
- Скачиваний за месяц
- 21,5 тыс.
- Лайков
- 5
Как загрузить
from datasets import load_dataset
ds = load_dataset("mlfoundations/MINT-1T-PDF-CC-2024-10")