Датасет · google
Мультимодальные пары Wikipedia на 108 языках
google/wit
37,6 млн пар изображение—текст из Wikipedia на 108 языках для мультимодального поиска и обучения.
Что внутри
Датасет собран из Wikipedia: 37,6 млн примеров с сущностями и 11,5 млн уникальных изображений на 108 языках. Внутри — пары изображение—текст и связанные метаданные; языки включают африкаанс, арабский, астурийский, азербайджанский, белорусский, болгарский и другие. Подходит как pretraining-корпус для мультимодальных моделей и задач text-retrieval/image-to-text.
Что можно сделать
- Обучение CLIP-подобных моделей image-text
- Проверка кросс-язычного image-to-text retrieval
- Pretraining мультимодальной модели на Wikipedia
- Задачи
- Поиск по текстам, Картинка → текст
- Языки
- af, Арабский, ast, azb, be, bg, bn, br и ещё 4
- Размер
- 1M–10M записей
- Скачиваний за месяц
- 2,6 тыс.
- Лайков
- 73
Модели, обученные на нём
Как загрузить
from datasets import load_dataset
ds = load_dataset("google/wit")