Датасет · hackaprompt
Атаки на промпты из соревнования
hackaprompt/hackaprompt-dataset
Сабмишны соревнования HackAPrompt по взлому промптов для изучения prompt injection.
Что внутри
Датасет содержит заявки соревнования по взлому промптов HackAPrompt. Сабмишны собирали в игровой площадке для экспериментов и на официальной платформе соревнования. Данные табличные и текстовые, на английском; анализ набора опубликован на EMNLP 2023.
Что можно сделать
- Обучить классификатор prompt injection
- Проверить устойчивость LLM к джейлбрейкам
- Сделать фильтр вредных промптов
- Языки
- Английский
- Размер
- 100K–1M записей
- Скачиваний за месяц
- 1,2 тыс.
- Лайков
- 119
- Доступ
- по запросу на Hugging Face
Модели, обученные на нём
- protectai/deberta-v3-base-prompt-injectionКлассификация текста 35,1 тыс.
- vllm-sr/Decision-1.0-Route-0.6BZero-shot классификация 132
- Verm1ion/injection-sentry-xlmrКлассификация текста 89
- vllm-sr/toolcall-sentinelКлассификация текста 47
- gantrly/fortress-xsКлассификация текста 46
- vllm-sr/toolcall-verifierРазметка токенов 33
- rootfs/tool-call-verifierРазметка токенов 23
- rootfs/function-call-sentinelКлассификация текста 18
Как загрузить
from datasets import load_dataset
ds = load_dataset("hackaprompt/hackaprompt-dataset")