Датасет · Cogensec
Корпус промптов для тестирования джейлбрейков
Cogensec/jailbreak-corpus
Размеченный корпус реальных попыток джейлбрейка для создания детекторов и защитных механизмов ИИ.
Что внутри
Содержит от 10K до 100K записей на английском, немецком, испанском, французском, итальянском и португальском языках. Включает только враждебные промпты (адверсал-промпты) и метаданные без генераций моделей или вредных ответов.
Что можно сделать
- Обучение и оценка детекторов джейлбрейков
- Разработка гардов и систем обеспечения безопасности LLM
- Изучение таксономий атак
- Задачи
- Классификация текста
- Языки
- Английский, Немецкий, Испанский, Французский, Итальянский, Португальский, Нидерландский
- Размер
- 10K–100K записей
- Скачиваний за месяц
- 445
- Лайков
- 8
- Доступ
- по запросу на Hugging Face
Как загрузить
from datasets import load_dataset
ds = load_dataset("Cogensec/jailbreak-corpus")