Датасет · llamaindex
Мультиязычный датасет для визуального поиска по документам
llamaindex/vdr-multilingual-train
500 тысяч пар из изображений страниц и синтетических запросов на пяти европейских языках для мультимодального поиска.
Что внутри
Датасет содержит 500 тысяч примеров формата «запрос — изображение», собранных на основе публичных PDF-документов из интернета. Запросы сгенерированы синтетически с помощью VLM-моделей gemini-1.5-pro и Qwen2-VL-72B на английском, немецком, французском, испанском и итальянском языках. На этих данных обучалась мультимодальная модель эмбеддингов vdr-2b-multi-v1.
Что можно сделать
- Обучение мультиязычных моделей мультимодальных эмбеддингов для поиска по PDF и сканам
- Построение и оценка систем Visual Document Retrieval и RAG по визуальным документам
- Языки
- Немецкий, Итальянский, Французский, Испанский, Английский
- Размер
- 100K–1M записей
- Скачиваний за месяц
- 1,7 тыс.
- Лайков
- 32
Модели, обученные на нём
- llamaindex/vdr-2b-multi-v1Картинка + текст 15,2 тыс.
- athrael-soju/colqwen3.5-4.5B-v3visual document retrieval 3,4 тыс.
- nomic-ai/colnomic-embed-multimodal-7bvisual document retrieval 2,2 тыс.
- tsystems/colqwen2.5-3b-multilingual-v1.0visual document retrieval 1,6 тыс.
- Metric-AI/ColQwen2.5-3b-multilingual-v1.0visual document retrieval 500
- mradermacher/vdr-2b-multi-v1-i1-GGUF 473
- mradermacher/vdr-2b-v1-GGUF 442
- VAGOsolutions/SauerkrautLM-ColQwen3-2b-v0.1Картинка + текст 438
Как загрузить
from datasets import load_dataset
ds = load_dataset("llamaindex/vdr-multilingual-train")