Датасет · neuralchemy
Датасет для детекции промпт-инъекций и джейлбрейков
neuralchemy/Prompt-injection-dataset
Сбалансированный текстовый набор для обучения классификаторов вредоносных промптов на английском языке.
Что внутри
В датасете от 10 000 до 100 000 текстов на английском языке для бинарной классификации: около 60% составляют вредоносные промпт-инъекции и джейлбрейки, а 40% — безопасные запросы. Разделение на выборки выполнено с учётом групп без утечки данных, причём доступны две конфигурации: core для классического ML и full для трансформеров.
Что можно сделать
- Обучение защитных фильтров и классификаторов для обнаружения промпт-инъекций
- Тестирование устойчивости LLM-приложений к джейлбрейк-атакам
- Задачи
- Классификация текста
- Языки
- Английский
- Размер
- 10K–100K записей
- Скачиваний за месяц
- 2,8 тыс.
- Лайков
- 38
Модели, обученные на нём
- Horizon-Labs/prompt-injection-guard-baseКлассификация текста 7,4 тыс.
- Horizon-Labs/prompt-injection-guard-smallКлассификация текста 5,5 тыс.
- mradermacher/Spellguard-1.0-8B-GGUF 934
- Horizon-Labs/prompt-injection-guard-largeКлассификация текста 603
- mradermacher/GPT-Distill-Qwen3-8B-Spellguard-SLERP-GGUF 479
- thealper2/qwen3-0.6b-prompt-injection-detectorГенерация текста 390
- neuralchemy/prompt-injection-debertaКлассификация текста 277
- mradermacher/PromptGuard-GGUF 247
Как загрузить
from datasets import load_dataset
ds = load_dataset("neuralchemy/Prompt-injection-dataset")