К содержимому

Датасет · Mindgard

Модифицированные промпт-инъекции и джейлбрейки для обхода защиты

Mindgard/evaded-prompt-injection-and-jailbreak-samples

Англоязычная база оригинальных и обфусцированных промпт-атак для тестирования безопасности и фильтров LLM.

Что внутри

Датасет подготовлен авторами статьи «Bypassing Prompt Injection and Jailbreak Detection in LLM Guardrails» и содержит от 10 до 100 тысяч примеров на английском языке. Каждая запись включает исходный вредоносный промпт, его изменённую версию и название применённой техники атаки (инъекция символов и состязательные методы обхода). Данные предназначены для задач классификации и генерации текста.

Что можно сделать

  • Оценка устойчивости защитных фильтров (guardrails) и детекторов джейлбрейков к обфускации
  • Обучение классификаторов для выявления скрытых промпт-инъекций
  • Проведение red-teaming тестирования языковых моделей
Задачи
Классификация текста, Генерация текста
Языки
Английский
Размер
10K–100K записей
Скачиваний за месяц
251
Лайков
39
Доступ
по запросу на Hugging Face

Модели, обученные на нём

Как загрузить

from datasets import load_dataset

ds = load_dataset("Mindgard/evaded-prompt-injection-and-jailbreak-samples")