Датасет · Anthropic
Данные предпочтений для RLHF
Anthropic/hh-rlhf
Пары ответов с человеческими предпочтениями по полезности и безопасности для обучения reward-моделей.
Что внутри
Репозиторий содержит два вида данных: человеческие предпочтения о полезности и безвредности из работы по обучению полезного и безвредного ассистента с RLHF. Эти данные предназначены для обучения preference/reward моделей для последующего RLHF, а не для supervised обучения диалоговых агентов. Размер 100K–1M, модальность text; язык в метаданных не указан.
Что можно сделать
- Обучение reward-модели
- RLHF-тюнинг ассистента
- Оценка предпочтений по полезности и безопасности
- Размер
- 100K–1M записей
- Скачиваний за месяц
- 47,7 тыс.
- Лайков
- 2,5 тыс.
Модели, обученные на нём
- OpenAssistant/reward-model-deberta-v3-large-v2Классификация текста 12,1 тыс.
- garak-llm/attackgeneration-toxicity_gpt2 8,6 тыс.
- sileod/deberta-v3-base-tasksource-nliZero-shot классификация 8,5 тыс.
- mradermacher/archangel_sft-kto_llama30b-i1-GGUF 4,1 тыс.
- mradermacher/gpt-oss-sanguine-20b-v1-i1-GGUF 3,3 тыс.
- sileod/deberta-v3-large-tasksource-nliZero-shot классификация 2,8 тыс.
- mradermacher/mpt-7b-chat-i1-GGUF 2,3 тыс.
- Ray2333/gpt2-large-helpful-reward_modelКлассификация текста 2,1 тыс.
Как загрузить
from datasets import load_dataset
ds = load_dataset("Anthropic/hh-rlhf")