К содержимому

Датасет · Xnhyacinth

Бенчмарк LongBench для длинного контекста в формате parquet

Xnhyacinth/LongBench

Переупакованный в parquet набор тестовых конфигураций LongBench (включая версию _e) на английском языке для оценки работы LLM с длинными текстами.

Что внутри

Внутри собраны текстовые и табличные данные для оценки моделей на задачах с длинным контекстом, в том числе поднаборы с суффиксом _e. Объём составляет от 1 до 10 тысяч примеров на английском языке, доступных в виде тестовых сплитов. Конфигурации переведены в формат parquet на основе оригинального репозитория LongBench под лицензией MIT.

Что можно сделать

  • Оценка качества LLM при обработке длинных документов на английском языке
  • Сравнение моделей на специализированных подзадачах из конфигурации LongBench-e
  • Тестирование контекстного окна и поиска информации в больших текстах
Языки
Английский
Размер
1K–10K записей
Скачиваний за месяц
21,6 тыс.
Лайков
7

Как загрузить

from datasets import load_dataset

ds = load_dataset("Xnhyacinth/LongBench")