К содержимому

Датасет · reshabhs

Примеры промпт-инъекций для чат-ботов

reshabhs/SPML_Chatbot_Prompt_Injection

Системные промпты и пользовательские атаки для обучения защиты LLM от взлома и инъекций.

Что внутри

Корпус содержит от 10 до 100 тысяч табличных и текстовых записей на английском языке. Внутри собраны реалистичные системные промпты для чат-ботов в паре с размеченными пользовательскими запросами, которые пытаются провести атаку типа prompt injection. Авторы сфокусировались именно на практических сценариях работы ботов, а не только на классическом джейлбрейке.

Что можно сделать

  • Обучение классификатора-фильтра для обнаружения промпт-инъекций перед подачей в LLM
  • Тестирование устойчивости системных промптов чат-ботов к вредоносным запросам
  • Файнтюнинг моделей безопасности (guardrails) для корпоративных ИИ-ассистентов
Задачи
Классификация текста
Языки
Английский
Размер
10K–100K записей
Скачиваний за месяц
1,7 тыс.
Лайков
34

Модели, обученные на нём

Как загрузить

from datasets import load_dataset

ds = load_dataset("reshabhs/SPML_Chatbot_Prompt_Injection")