К содержимому

Датасет · YijunYang280

Бенчмарк промптов для обхода фильтров генерации картинок

YijunYang280/MMA-Diffusion-NSFW-adv-prompts-benchmark

1 000 текстовых промптов на английском для тестирования защиты text-to-image моделей от NSFW-атак.

Что внутри

Внутри собраны 1 000 текстовых промптов на английском языке, созданных с помощью метода состязательных атак из статьи CVPR 2024 MMA-Diffusion. Эти запросы способны обходить встроенные фильтры безопасности при генерации изображений. Датасет предназначен для разработки и оценки защитных механизмов в text-to-image моделях.

Что можно сделать

  • Оценка устойчивости фильтров безопасности в text-to-image генераторах
  • Обучение классификаторов для выявления скрытых вредоносных промптов
Задачи
Текст → картинка
Языки
Английский
Размер
1K–10K записей
Скачиваний за месяц
228
Лайков
32
Доступ
по запросу на Hugging Face

Как загрузить

from datasets import load_dataset

ds = load_dataset("YijunYang280/MMA-Diffusion-NSFW-adv-prompts-benchmark")