Датасет · ScaleAI
Многоходовые джейлбрейки для проверки защиты LLM
ScaleAI/mhj
Сборник успешных многоходовых диалогов-атак от ред-тимеров для тестирования безопасности языковых моделей.
Что внутри
Внутри собраны 2 912 промптов, объединённых в 537 многоходовых диалогов на английском языке. Авторы включили только успешные атаки, придуманные специалистами по red teaming, а также добавили метаданные с их комментариями о выборе тактики взлома. В метаданных карточки указана модальность image, но по описанию это текстовые промпты и диалоги.
Что можно сделать
- Оценка устойчивости LLM к многоходовым джейлбрейкам
- Обучение или донастройка моделей-классификаторов безопасности (guardrails)
- SFT или RLHF для повышения защиты языковых моделей от атак
- Задачи
- Генерация текста
- Языки
- Английский
- Размер
- до 1K записей
- Скачиваний за месяц
- 478
- Лайков
- 38
- Доступ
- по запросу на Hugging Face
Как загрузить
from datasets import load_dataset
ds = load_dataset("ScaleAI/mhj")