Датасет · YijunYang280
Бенчмарк промптов для обхода фильтров генерации картинок
YijunYang280/MMA-Diffusion-NSFW-adv-prompts-benchmark
1 000 текстовых промптов на английском для тестирования защиты text-to-image моделей от NSFW-атак.
Что внутри
Внутри собраны 1 000 текстовых промптов на английском языке, созданных с помощью метода состязательных атак из статьи CVPR 2024 MMA-Diffusion. Эти запросы способны обходить встроенные фильтры безопасности при генерации изображений. Датасет предназначен для разработки и оценки защитных механизмов в text-to-image моделях.
Что можно сделать
- Оценка устойчивости фильтров безопасности в text-to-image генераторах
- Обучение классификаторов для выявления скрытых вредоносных промптов
- Задачи
- Текст → картинка
- Языки
- Английский
- Размер
- 1K–10K записей
- Скачиваний за месяц
- 228
- Лайков
- 32
- Доступ
- по запросу на Hugging Face
Как загрузить
from datasets import load_dataset
ds = load_dataset("YijunYang280/MMA-Diffusion-NSFW-adv-prompts-benchmark")