К содержимому

Датасет · allenai

Датасет человеческих предпочтений от AllenAI (MultiPref)

allenai/multipref

10 тысяч примеров на английском с перекрестной оценкой от краудворкеров и экспертов для выравнивания LLM.

Что внутри

Коллекция включает 10 тысяч примеров на английском языке, каждый из которых оценен четырежды — двумя обычными разметчиками и двумя профильными экспертами, что в сумме дает около 40 тысяч аннотаций. Помимо общей оценки качества ответа, разметка включает несколько дополнительных аспектов предпочтений. Датасет выпущен институтом AllenAI для исследования гибридной обратной связи от людей и ИИ.

Что можно сделать

  • Обучение Reward-моделей и выравнивание языковых моделей методами RLHF или DPO
  • Исследование расхождений между оценками обычных пользователей и узких специалистов
Языки
Английский
Размер
10K–100K записей
Скачиваний за месяц
20,5 тыс.
Лайков
24

Как загрузить

from datasets import load_dataset

ds = load_dataset("allenai/multipref")