К содержимому

Датасет · llamaindex

Мультиязычный датасет для визуального поиска по документам

llamaindex/vdr-multilingual-train

500 тысяч пар из изображений страниц и синтетических запросов на пяти европейских языках для мультимодального поиска.

Что внутри

Датасет содержит 500 тысяч примеров формата «запрос — изображение», собранных на основе публичных PDF-документов из интернета. Запросы сгенерированы синтетически с помощью VLM-моделей gemini-1.5-pro и Qwen2-VL-72B на английском, немецком, французском, испанском и итальянском языках. На этих данных обучалась мультимодальная модель эмбеддингов vdr-2b-multi-v1.

Что можно сделать

  • Обучение мультиязычных моделей мультимодальных эмбеддингов для поиска по PDF и сканам
  • Построение и оценка систем Visual Document Retrieval и RAG по визуальным документам
Языки
Немецкий, Итальянский, Французский, Испанский, Английский
Размер
100K–1M записей
Скачиваний за месяц
1,7 тыс.
Лайков
32

Модели, обученные на нём

Как загрузить

from datasets import load_dataset

ds = load_dataset("llamaindex/vdr-multilingual-train")