Датасет · walledai
500 вредоносных инструкций для атак на LLM
walledai/AdvBench
Набор из 500 вредоносных инструкций на английском для проверки устойчивости языковых моделей к adversarial-атакам.
Что внутри
Датасет содержит 500 вредоносных поведений, сформулированных как инструкции, на английском языке. Он создан для поиска единой атакующей строки, которая заставит модель ответить в соответствии с инструкцией. Материал относится к исследованию универсальных и переносимых adversarial-атак на aligned language models.
Что можно сделать
- Проверять устойчивость чат-модели к jailbreak-атакам
- Оценивать фильтры безопасности и alignment
- Тестировать adversarial-атаки на LLM
- Языки
- Английский
- Размер
- до 1K записей
- Скачиваний за месяц
- 12,1 тыс.
- Лайков
- 132
- Доступ
- по запросу на Hugging Face
Модели, обученные на нём
- XiaoyuWen/TRACE-Mix-Qwen2.5-3B-InstructГенерация текста 810
- mradermacher/TRACE-Mix-Qwen2.5-3B-Instruct-GGUFОбучение с подкреплением 234
- rajaykumar12959/qwen3.8-27b-abliteratedГенерация текста 113
- rajaykumar12959/qwen3.5-35b-a3b-abliteratedГенерация текста 63
- rajaykumar12959/qwen2.5-7b-abliteratedГенерация текста 56
- JHC04567/spid-deberta-baseКлассификация текста 19
- OriDragon2000/mistral_instruct_v3_Layer_AdvPatched 18
- independently-platform/picoguardian-v3Классификация текста 18
Как загрузить
from datasets import load_dataset
ds = load_dataset("walledai/AdvBench")