Датасет · wikimedia
Мультиязычные пары изображение–текст из Wikipedia
wikimedia/wit_base
Связи изображений и текстов из Wikipedia на многих языках для обучения и проверки мультимодального поиска.
Что внутри
Датасет содержит изображения и связанные с ними тексты из статей Wikipedia. По карточке, основа — WIT: более 37 млн пар изображение–текст на 108 языках; в метаданных указаны модальности image и text и языки af, an, ar, arz, ast, az. Данные подходят для задач image-to-text и text-retrieval.
Что можно сделать
- Обучение мультиязычной модели image-to-text retrieval
- Дообучение LoRA для генерации подписей к изображениям
- Проверка кросс-язычного поиска изображение–текст
- Задачи
- Картинка → текст, Поиск по текстам
- Языки
- af, an, Арабский, arz, ast, az, azb, ba и ещё 4
- Размер
- 100K–1M записей
- Скачиваний за месяц
- 8,1 тыс.
- Лайков
- 77
Как загрузить
from datasets import load_dataset
ds = load_dataset("wikimedia/wit_base")