Датасет · allenai
Датасет человеческих предпочтений от AllenAI (MultiPref)
allenai/multipref
10 тысяч примеров на английском с перекрестной оценкой от краудворкеров и экспертов для выравнивания LLM.
Что внутри
Коллекция включает 10 тысяч примеров на английском языке, каждый из которых оценен четырежды — двумя обычными разметчиками и двумя профильными экспертами, что в сумме дает около 40 тысяч аннотаций. Помимо общей оценки качества ответа, разметка включает несколько дополнительных аспектов предпочтений. Датасет выпущен институтом AllenAI для исследования гибридной обратной связи от людей и ИИ.
Что можно сделать
- Обучение Reward-моделей и выравнивание языковых моделей методами RLHF или DPO
- Исследование расхождений между оценками обычных пользователей и узких специалистов
- Языки
- Английский
- Размер
- 10K–100K записей
- Скачиваний за месяц
- 20,5 тыс.
- Лайков
- 24
Как загрузить
from datasets import load_dataset
ds = load_dataset("allenai/multipref")