Датасет · pixparse
PDF-страницы для vision-language моделей
pixparse/pdfa-eng-wds
Англоязычные PDF-страницы из SafeDocs с разметкой для обучения и оценки OCR и vision-language моделей.
Что внутри
PDFA — подмножество корпуса SafeDocs (CC-MAIN-2021-31-PDF-UNTRUNCATED), отфильтрованное для машинного обучения. В карточке указано, что это документный датасет с примером страницы PDF и добавленной разметкой bounding boxes. Данные на английском, модальность text и задача image-to-text, размер от 1K до 10K.
Что можно сделать
- Обучение OCR-моделей на PDF
- Fine-tuning vision-language моделей для документов
- Проверка извлечения текста и layout из PDF
- Задачи
- Картинка → текст
- Языки
- Английский
- Размер
- 1K–10K записей
- Скачиваний за месяц
- 13,8 тыс.
- Лайков
- 167
Модели, обученные на нём
- HuggingFaceM4/idefics2-8bКартинка + текст 5,9 тыс.
- HuggingFaceM4/idefics2-8b-chattyКартинка + текст 753
- HuggingFaceM4/idefics2-8b-baseКартинка + текст 283
- HuggingFaceM4/idefics2-8b-AWQКартинка + текст 84
- mlx-community/idefics2-8b-4bitКартинка + текст 66
- mlx-community/idefics2-8b-chatty-4bitКартинка + текст 66
- mlx-community/idefics2-8b-chatty-8bitКартинка + текст 48
- mlx-community/idefics2-8b-8bitКартинка + текст 45
Как загрузить
from datasets import load_dataset
ds = load_dataset("pixparse/pdfa-eng-wds")