Датасет · jackhhao
Классификация jailbreak-промптов
jackhhao/jailbreak-classification
Промпты LLM с метками jailbreak или benign для обучения детекторов вредных запросов.
Что внутри
Датасет для классификации промптов LLM как jailbreak или benign. В каждом примере есть поле prompt и метка type. Собран, чтобы помогать выявлять и предотвращать вредные jailbreak-промпты при взаимодействии с LLM; источники джейлбрейк-промптов перечислены в карточке.
Что можно сделать
- Обучение классификатора jailbreak-промптов
- Фильтрация входа LLM перед инференсом
- Проверка модерации чат-бота
- Задачи
- Классификация текста
- Языки
- Английский
- Размер
- 1K–10K записей
- Скачиваний за месяц
- 7,3 тыс.
- Лайков
- 105
Модели, обученные на нём
- protectai/deberta-v3-base-prompt-injection-v2Классификация текста 501 тыс.
- patronus-studio/wolf-defender-prompt-injectionКлассификация текста 6,5 тыс.
- protectai/deberta-v3-small-prompt-injection-v2Классификация текста 4,4 тыс.
- patronus-studio/wolf-defender-prompt-injection-smallКлассификация текста 4,4 тыс.
- jackhhao/jailbreak-classifierКлассификация текста 1,9 тыс.
- codeintegrity-ai/promptguardКлассификация текста 1,6 тыс.
- lordofthejars/jailbreak-classifierКлассификация текста 410
- dannyliv/agent-guard-modernbert-baseКлассификация текста 341
Как загрузить
from datasets import load_dataset
ds = load_dataset("jackhhao/jailbreak-classification")