Датасет · reshabhs
Примеры промпт-инъекций для чат-ботов
reshabhs/SPML_Chatbot_Prompt_Injection
Системные промпты и пользовательские атаки для обучения защиты LLM от взлома и инъекций.
Что внутри
Корпус содержит от 10 до 100 тысяч табличных и текстовых записей на английском языке. Внутри собраны реалистичные системные промпты для чат-ботов в паре с размеченными пользовательскими запросами, которые пытаются провести атаку типа prompt injection. Авторы сфокусировались именно на практических сценариях работы ботов, а не только на классическом джейлбрейке.
Что можно сделать
- Обучение классификатора-фильтра для обнаружения промпт-инъекций перед подачей в LLM
- Тестирование устойчивости системных промптов чат-ботов к вредоносным запросам
- Файнтюнинг моделей безопасности (guardrails) для корпоративных ИИ-ассистентов
- Задачи
- Классификация текста
- Языки
- Английский
- Размер
- 10K–100K записей
- Скачиваний за месяц
- 1,7 тыс.
- Лайков
- 34
Модели, обученные на нём
- mradermacher/monitor-qwen35-08b-GGUFКлассификация текста 766
- dannyliv/agent-guard-modernbert-baseКлассификация текста 284
- mradermacher/monitor-qwen35-2b-GGUFКлассификация текста 146
- yzdvai/tiny-injection-guardКлассификация текста 97
- samratduttaofficial/WaterSheepZero-shot классификация 81
- qwalora/parallax-guard-xsmallКлассификация текста 49
- ITLL/WaterSheepZero-shot классификация 33
- dannyliv/agent-guard-deberta-pi-baseКлассификация текста 29
Как загрузить
from datasets import load_dataset
ds = load_dataset("reshabhs/SPML_Chatbot_Prompt_Injection")