Датасет · Necent
Джейлбрейки и промпт-инъекции для guardrails
Necent/llm-jailbreak-prompt-injection-dataset
Мультиязычный набор для обучения фильтров безопасности LLM: джейлбрейки и инъекции.
Что внутри
Объединённый safety-датасет из 30+ публичных источников для обучения LLM guardrails, классификаторов модерации и фильтров безопасности ответов. В каждом примере четыре ортогональных мультилейбл-метки в стиле AI2 WildGuard, IBM Granite Guardian и Azure Prompt Shields вместо одного бинарного is_dangerous. Языки по метаданным: английский, китайский, арабский, русский, французский и немецкий; размер — 1–10 млн примеров.
Что можно сделать
- Обучить классификатор джейлбрейков и промпт-инъекций
- Собрать guardrail-модель с мультилейбл-разметкой
- Проверить модерацию на шести языках
- Задачи
- Классификация текста
- Языки
- Английский, Китайский, Арабский, Русский, Французский, Немецкий, Испанский, Хинди и ещё 4
- Размер
- 1M–10M записей
- Скачиваний за месяц
- 2,7 тыс.
- Лайков
- 90
- Доступ
- по запросу на Hugging Face
Модели, обученные на нём
Как загрузить
from datasets import load_dataset
ds = load_dataset("Necent/llm-jailbreak-prompt-injection-dataset")