Датасет · HannahRoseKirk
Фидбек людей для выравнивания LLM
HannahRoseKirk/prism-alignment
Анкеты и оценки предпочтений людей к ответам LLM для preference и value alignment.
Что внутри
Датасет из двух этапов: сначала участники заполняют опрос о демографии и заявленных предпочтениях, затем взаимодействуют с LLM и дают контекстные оценки предпочтений. Модальности tabular и text, язык en, размер 10K–100K. Данные позволяют сопоставлять характеристики и заявленные предпочтения людей с их реальными оценками ответов LLM.
Что можно сделать
- Обучить reward-модель для RLHF
- Донастроить LoRA под preference alignment
- Проверить связь демографии и оценок LLM
- Языки
- Английский
- Размер
- 10K–100K записей
- Скачиваний за месяц
- 4,8 тыс.
- Лайков
- 110
Модели, обученные на нём
- MulticulturalAlignment/scpo-reward-model-south-africaКлассификация текста 33
- MulticulturalAlignment/scpo-reward-model-chileКлассификация текста 31
- MulticulturalAlignment/scpo-reward-model-canadaКлассификация текста 29
- MulticulturalAlignment/scpo-reward-model-new-zealandКлассификация текста 27
- MulticulturalAlignment/scpo-reward-model-israelКлассификация текста 26
- MulticulturalAlignment/scpo-reward-model-mexicoКлассификация текста 24
- MulticulturalAlignment/scpo-reward-model-australiaКлассификация текста 23
- jj-st-25/qwen0.5B-Instruct-socialscientistpersona-DPO 0
Как загрузить
from datasets import load_dataset
ds = load_dataset("HannahRoseKirk/prism-alignment")