К содержимому

Датасет · facebook

Бенчмарк KILT на Википедии

facebook/kilt_tasks

11 наборов для проверки фактов, QA, связывания сущностей и диалогов на одном дампе Википедии.

Что внутри

KILT объединяет 11 датасетов по пяти типам задач: проверка фактов, связывание сущностей, слот-филлинг, open-domain QA и генерация диалогов. Все они привязаны к одному предобработанному дампу Википедии на английском. Это даёт единообразную оценку и позволяет запускать multitask и transfer learning.

Что можно сделать

  • Обучить multitask-модель для QA и retrieval
  • Оценить RAG-систему на KILT-задачах
  • Проверить связывание сущностей и проверку фактов
Задачи
Заполнение пропусков, Вопрос-ответ, Классификация текста, Генерация текста, Поиск по текстам
Языки
Английский
Размер
1M–10M записей
Скачиваний за месяц
6,8 тыс.
Лайков
69

Как загрузить

from datasets import load_dataset

ds = load_dataset("facebook/kilt_tasks")