Датасет · JailbreakV-28K
JailBreakV-28K: бенчмарк джейлбрейков MLLM
JailbreakV-28K/JailBreakV-28k
Набор изображений и текстов для проверки устойчивости мультимодальных LLM к jailbreak-атакам.
Что внутри
Это бенчмарк для оценки robustness мультимодальных больших языковых моделей к jailbreak-атакам. В карточке указаны изображения и текст, поддержка кастомизации атак в версии V0.2; проект принят на COLM 2024. Размер по метаданным — от 10 тыс. до 100 тыс. примеров, язык в метаданных не указан.
Что можно сделать
- Оценка безопасности мультимодальных LLM
- Ред-тиминг и дообучение защиты
- Сравнение атакующих промптов
- Задачи
- Генерация текста, Вопрос-ответ
- Размер
- 10K–100K записей
- Скачиваний за месяц
- 11,6 тыс.
- Лайков
- 88
Модели, обученные на нём
- Horizon-Labs/prompt-injection-guard-baseКлассификация текста 6,2 тыс.
- Horizon-Labs/prompt-injection-guard-smallКлассификация текста 4,1 тыс.
- codeintegrity-ai/promptguardКлассификация текста 1,6 тыс.
- Horizon-Labs/prompt-injection-guard-largeКлассификация текста 457
- katanemo/Arch-GuardКлассификация текста 403
- katanemo/Arch-Guard-cpuКлассификация текста 89
- katanemo/Arch-Guard-gpuКлассификация текста 21
- joeljames270/jailbreak_detector_llama 0
Как загрузить
from datasets import load_dataset
ds = load_dataset("JailbreakV-28K/JailBreakV-28k")