Датасет · Mindgard
Модифицированные промпт-инъекции и джейлбрейки для обхода защиты
Mindgard/evaded-prompt-injection-and-jailbreak-samples
Англоязычная база оригинальных и обфусцированных промпт-атак для тестирования безопасности и фильтров LLM.
Что внутри
Датасет подготовлен авторами статьи «Bypassing Prompt Injection and Jailbreak Detection in LLM Guardrails» и содержит от 10 до 100 тысяч примеров на английском языке. Каждая запись включает исходный вредоносный промпт, его изменённую версию и название применённой техники атаки (инъекция символов и состязательные методы обхода). Данные предназначены для задач классификации и генерации текста.
Что можно сделать
- Оценка устойчивости защитных фильтров (guardrails) и детекторов джейлбрейков к обфускации
- Обучение классификаторов для выявления скрытых промпт-инъекций
- Проведение red-teaming тестирования языковых моделей
- Задачи
- Классификация текста, Генерация текста
- Языки
- Английский
- Размер
- 10K–100K записей
- Скачиваний за месяц
- 251
- Лайков
- 39
- Доступ
- по запросу на Hugging Face
Модели, обученные на нём
Как загрузить
from datasets import load_dataset
ds = load_dataset("Mindgard/evaded-prompt-injection-and-jailbreak-samples")