Датасет · allenai
Синтетический датасет безопасности диалоговых моделей
allenai/wildjailbreak
262K синтетических пар запрос-ответ: вредные и похожие безвредные запросы для обучения безопасности.
Что внутри
WildJailbreak — открытый синтетический датасет для обучения безопасности, содержащий 262K пар «запрос-ответ» в обычных (vanilla) и состязательных (adversarial) вариантах. Для снижения избыточных отказов в нём есть два контрастивных типа запросов: вредные и безвредные, похожие по форме, но без вредного намерения. Язык — английский; модальности в метаданных — текст и изображения.
Что можно сделать
- SFT/RLHF-дообучение безопасных ассистентов
- Настройка баланса отказов и полезности
- Красная команда и оценка джейлбрейков
- Задачи
- Генерация текста
- Языки
- Английский
- Размер
- 1K–10K записей
- Скачиваний за месяц
- 6,5 тыс.
- Лайков
- 173
- Доступ
- по запросу на Hugging Face
Модели, обученные на нём
- patronus-studio/wolf-defender-prompt-injectionКлассификация текста 6,5 тыс.
- patronus-studio/wolf-defender-prompt-injection-smallКлассификация текста 4,4 тыс.
- vllm-sr/Decision-1.0-Route-0.6BZero-shot классификация 132
- AIgotahole/red-teamer-mistral-nemo-Q4_K_M-GGUF 51
- vllm-sr/toolcall-sentinelКлассификация текста
Как загрузить
from datasets import load_dataset
ds = load_dataset("allenai/wildjailbreak")