К содержимому

Датасет · mlfoundations

Мультимодальный корпус из PDF-документов для предобучения VLM

mlfoundations/MINT-1T-PDF-CC-2024-10

Часть гигантского открытого датасета MINT-1T с чередующимися текстами на английском и изображениями из PDF.

Что внутри

Этот репозиторий представляет собой часть крупного открытого мультимодального датасета MINT-1T от исследователей из Вашингтонского университета (в данном сплите от 1 до 10 млн записей). Внутри лежат чередующиеся англоязычные тексты и изображения, извлечённые из PDF-файлов. Полный проект MINT-1T охватывает 1 триллион текстовых токенов и 3,4 миллиарда картинок, включая научные статьи с ArXiv.

Что можно сделать

  • Предобучение мультимодальных языковых моделей (VLM), понимающих сложную вёрстку документов
  • Обучение систем извлечения информации и анализа иллюстраций в PDF-файлах
Задачи
Картинка → текст, Генерация текста
Языки
Английский
Размер
1M–10M записей
Скачиваний за месяц
21,5 тыс.
Лайков
5

Как загрузить

from datasets import load_dataset

ds = load_dataset("mlfoundations/MINT-1T-PDF-CC-2024-10")