К содержимому

Датасет · S-Labs

Датасет для обнаружения промпт-инъекций в запросах к LLM

S-Labs/prompt-injection-dataset

Набор данных для бинарной классификации пользовательских промптов на безопасные и вредоносные (prompt injection).

Что внутри

Включает от 10 до 100 тысяч текстовых примеров на английском языке, разделённых на два класса: обычные легитимные запросы (0) и попытки промпт-инъекций (1). Датасет специально подготовлен для обучения компактных энкодер-моделей, работающих как защитный фильтр перед основной языковой моделью.

Что можно сделать

  • Обучение быстрых классификаторов-фильтров (BERT, RoBERTa, DistilBERT) для защиты LLM-приложений
  • Тестирование систем безопасности и guardrail-решений на устойчивость к атакам
  • Анализ паттернов и формулировок пользовательских промпт-инъекций
Задачи
Классификация текста
Языки
Английский
Размер
10K–100K записей
Скачиваний за месяц
1,4 тыс.
Лайков
16

Модели, обученные на нём

Как загрузить

from datasets import load_dataset

ds = load_dataset("S-Labs/prompt-injection-dataset")