Датасет · facebook
Бенчмарк KILT на Википедии
facebook/kilt_tasks
11 наборов для проверки фактов, QA, связывания сущностей и диалогов на одном дампе Википедии.
Что внутри
KILT объединяет 11 датасетов по пяти типам задач: проверка фактов, связывание сущностей, слот-филлинг, open-domain QA и генерация диалогов. Все они привязаны к одному предобработанному дампу Википедии на английском. Это даёт единообразную оценку и позволяет запускать multitask и transfer learning.
Что можно сделать
- Обучить multitask-модель для QA и retrieval
- Оценить RAG-систему на KILT-задачах
- Проверить связывание сущностей и проверку фактов
- Задачи
- Заполнение пропусков, Вопрос-ответ, Классификация текста, Генерация текста, Поиск по текстам
- Языки
- Английский
- Размер
- 1M–10M записей
- Скачиваний за месяц
- 6,8 тыс.
- Лайков
- 69
Как загрузить
from datasets import load_dataset
ds = load_dataset("facebook/kilt_tasks")