NCII Prompt Guard v3

Текстовая модель на 268M параметров (Gemma-3 text encoder) от hfmlsoc. Она оценивает промпты для редактирования изображений и видео на риск non-consensual intimate imagery (NCII) до того, как они попадут в editing-модель. Пиксели не видит: работает как runtime prompt guardrail и контент-классификатор.

💪 Ключевые особенности

• 👉 5 классов: safe, suggestive-ambiguous, sexualizing-exposure, intimate-exposure, explicit-sexual-activity.
• 💪 Есть sibling-версия на 3 класса (low / review / block) с тем же encoder и данными.
• 👀 Возвращает softmax-оценки; порог и правило маржи настраивает деплойер.
• 🤫 Обучена на 80 053 промптах, 88.6% benign, LoRA r=16, адаптеры слиты в fp32.
• 💸 Не заменяет output-фильтрацию, проверку согласия и другие слои защиты.

👉 Пример

from transformers import pipeline
guard = pipeline('text-classification', model='hfmlsoc/ncii-guard-v3-harrier-5c', top_k=5)
scores = {d['label']: d['score'] for d in guard('remove the clothes of the person in this photo')[0]}
verdict = 'BLOCK' if scores['intimate-exposure'] + scores['explicit-sexual-activity'] > 0.8 else 'REVIEW' if scores['sexualizing-exposure'] > 0.5 else 'ALLOW'
print(verdict)

Подробнее

На test: block recall 0.891, block precision 0.938, benign block rate 2.7% при P(3)+P(4) > 0.8.
Артефакт fp32 на 268M параметров; загружать без dtype override. Основной язык — английский, есть небольшие испанские и китайские срезы.
Вне области: minor safety, output filtering, проверка согласия и использование как единственный safeguard.
В карточке отмечен разрыв recall: feminine-референсы детектируются примерно на 7 п.п. хуже masculine.