Датасет · S-Labs
Датасет для обнаружения промпт-инъекций в запросах к LLM
S-Labs/prompt-injection-dataset
Набор данных для бинарной классификации пользовательских промптов на безопасные и вредоносные (prompt injection).
Что внутри
Включает от 10 до 100 тысяч текстовых примеров на английском языке, разделённых на два класса: обычные легитимные запросы (0) и попытки промпт-инъекций (1). Датасет специально подготовлен для обучения компактных энкодер-моделей, работающих как защитный фильтр перед основной языковой моделью.
Что можно сделать
- Обучение быстрых классификаторов-фильтров (BERT, RoBERTa, DistilBERT) для защиты LLM-приложений
- Тестирование систем безопасности и guardrail-решений на устойчивость к атакам
- Анализ паттернов и формулировок пользовательских промпт-инъекций
- Задачи
- Классификация текста
- Языки
- Английский
- Размер
- 10K–100K записей
- Скачиваний за месяц
- 1,4 тыс.
- Лайков
- 16
Модели, обученные на нём
- patronus-studio/wolf-defender-prompt-injectionКлассификация текста 10 тыс.
- Horizon-Labs/prompt-injection-guard-baseКлассификация текста 7,4 тыс.
- Horizon-Labs/prompt-injection-guard-smallКлассификация текста 5,5 тыс.
- patronus-studio/wolf-defender-prompt-injection-smallКлассификация текста 3,8 тыс.
- mradermacher/Spellguard-1.0-8B-GGUF 934
- Horizon-Labs/prompt-injection-guard-largeКлассификация текста 603
- mradermacher/GPT-Distill-Qwen3-8B-Spellguard-SLERP-GGUF 479
- patronus-studio/wolf-defender-prompt-injection-edgeКлассификация текста 227
Как загрузить
from datasets import load_dataset
ds = load_dataset("S-Labs/prompt-injection-dataset")