Датасет · TrustAIRLab
Джейлбрейк-промпты из реальных источников
TrustAIRLab/in-the-wild-jailbreak-prompts
15 140 джейлбрейк-промптов, собранных в декабре 2022 — декабре 2023.
Что внутри
Датасет содержит 15 140 промптов для обхода ограничений LLM, собранных из реальных источников с декабря 2022 по декабрь 2023 года. Это официальный репозиторий статьи ACM CCS 2024; сбор выполнялся через фреймворк JailbreakHub. Указаны модальности tabular и text, задача — text generation.
Что можно сделать
- Оценить устойчивость LLM к джейлбрейкам
- Дообучить классификатор или фильтр вредных промптов
- Проверить red-team систему
- Задачи
- Генерация текста
- Размер
- 10K–100K записей
- Скачиваний за месяц
- 3,7 тыс.
- Лайков
- 71
Модели, обученные на нём
- Horizon-Labs/prompt-injection-guard-baseКлассификация текста 7,4 тыс.
- Horizon-Labs/prompt-injection-guard-smallКлассификация текста 5,5 тыс.
- Horizon-Labs/prompt-injection-guard-largeКлассификация текста 603
- shesettipavankumarswamy/ahd-jailbreak-v1Классификация текста 129
- vllm-sr/Decision-1.0-Route-0.6BZero-shot классификация 103
- yzdvai/tiny-injection-guardКлассификация текста 97
- gantrly/fortress-xsКлассификация текста 64
- vllm-sr/toolcall-sentinelКлассификация текста 52
Как загрузить
from datasets import load_dataset
ds = load_dataset("TrustAIRLab/in-the-wild-jailbreak-prompts")