К содержимому

Датасет · neuralchemy

Датасет для детекции промпт-инъекций и джейлбрейков

neuralchemy/Prompt-injection-dataset

Сбалансированный текстовый набор для обучения классификаторов вредоносных промптов на английском языке.

Что внутри

В датасете от 10 000 до 100 000 текстов на английском языке для бинарной классификации: около 60% составляют вредоносные промпт-инъекции и джейлбрейки, а 40% — безопасные запросы. Разделение на выборки выполнено с учётом групп без утечки данных, причём доступны две конфигурации: core для классического ML и full для трансформеров.

Что можно сделать

  • Обучение защитных фильтров и классификаторов для обнаружения промпт-инъекций
  • Тестирование устойчивости LLM-приложений к джейлбрейк-атакам
Задачи
Классификация текста
Языки
Английский
Размер
10K–100K записей
Скачиваний за месяц
2,8 тыс.
Лайков
38

Модели, обученные на нём

Как загрузить

from datasets import load_dataset

ds = load_dataset("neuralchemy/Prompt-injection-dataset")