Датасет · LLM-Tuning-Safety
Бенчмарк вредоносных инструкций HEx-PHI
LLM-Tuning-Safety/HEx-PHI
330 вредоносных инструкций по 11 запрещённым категориям для оценки безопасности LLM.
Что внутри
Датасет содержит 330 вредоносных инструкций: по 30 примеров на каждую из 11 запрещённых категорий. Он создан на основе исчерпывающих списков запрещённых сценариев использования и предназначен для оценки вредоносности ответов LLM. Язык — английский, формат в карточке не уточнён; объём менее 1K примеров.
Что можно сделать
- Оценивать safety-фильтры и отказные ответы LLM
- Проверять устойчивость aligned-моделей к вредоносным запросам
- Тестировать классификатор harmful instructions
- Задачи
- Генерация текста
- Языки
- Английский
- Размер
- до 1K записей
- Скачиваний за месяц
- 1,4 тыс.
- Лайков
- 72
- Доступ
- по запросу на Hugging Face
Как загрузить
from datasets import load_dataset
ds = load_dataset("LLM-Tuning-Safety/HEx-PHI")