Бенчмарк RewardBench для оценки reward-моделей

Что внутри

RewardBench — evaluation dataset для оценки возможностей reward-моделей. В карточке перечислены категории Chat с простыми чат-подвыборками (alpacaeval-easy, alpacaeval-length, alpacaeval-hard, mt-bench-easy, mt-bench-medium) и Chat Hard со сложными (mt-bench-hard, llmbar-natural, llmbar-adver-neighbor, llmbar-adver-GPTInst, llmbar-adver-GPTOut). Язык — английский; формат в карточке не детализирован.

Что можно сделать

• Оценка и сравнение reward-моделей для RLHF
• Выбор reward-модели перед обучением PPO/DPO
• Проверка устойчивости модели на сложных и состязательных диалогах

Как загрузить

from datasets import load_dataset

ds = load_dataset("allenai/reward-bench")