К содержимому

Датасет · Cogensec

Корпус промптов для тестирования джейлбрейков

Cogensec/jailbreak-corpus

Размеченный корпус реальных попыток джейлбрейка для создания детекторов и защитных механизмов ИИ.

Что внутри

Содержит от 10K до 100K записей на английском, немецком, испанском, французском, итальянском и португальском языках. Включает только враждебные промпты (адверсал-промпты) и метаданные без генераций моделей или вредных ответов.

Что можно сделать

  • Обучение и оценка детекторов джейлбрейков
  • Разработка гардов и систем обеспечения безопасности LLM
  • Изучение таксономий атак
Задачи
Классификация текста
Языки
Английский, Немецкий, Испанский, Французский, Итальянский, Португальский, Нидерландский
Размер
10K–100K записей
Скачиваний за месяц
445
Лайков
8
Доступ
по запросу на Hugging Face

Как загрузить

from datasets import load_dataset

ds = load_dataset("Cogensec/jailbreak-corpus")