Датасет · rubend18
Коллекция джейлбрейк-промптов для ChatGPT
rubend18/ChatGPT-Jailbreak-Prompts
Небольшой набор джейлбрейк-промптов ChatGPT для изучения обхода ограничений.
Что внутри
Датасет содержит коллекцию промптов, связанных с джейлбрейком ChatGPT. Представлен в табличном и текстовом виде; язык — английский (в метаданных также указан aa). Размер — менее 1 тыс. примеров. Карточка описывает его как ресурс для понимания и генерации текста в контексте джейлбрейка.
Что можно сделать
- Тестирование устойчивости LLM к джейлбрейкам
- Обучение классификатора небезопасных промптов
- Red teaming чат-моделей
- Задачи
- Вопрос-ответ, Генерация текста, Заполнение пропусков, Zero-shot классификация, Вопросы по таблицам
- Языки
- Английский, aa
- Размер
- до 1K записей
- Скачиваний за месяц
- 2,2 тыс.
- Лайков
- 303
Модели, обученные на нём
- protectai/deberta-v3-base-prompt-injectionКлассификация текста 35,1 тыс.
- testsavantai/prompt-injection-defender-large-v0Классификация текста 3,1 тыс.
- katanemo/Arch-GuardКлассификация текста 403
- testsavantai/prompt-injection-defender-base-v0Классификация текста 287
- testsavantai/prompt-injection-defender-small-v0-onnxКлассификация текста 240
- testsavantai/prompt-injection-defender-base-v0-onnxКлассификация текста 92
- katanemo/Arch-Guard-cpuКлассификация текста 89
- testsavantai/prompt-injection-defender-tiny-v0Классификация текста 56
Как загрузить
from datasets import load_dataset
ds = load_dataset("rubend18/ChatGPT-Jailbreak-Prompts")