PromptShield-V1-1106

Модель от derivedzyz для китайско- и англоязычных систем поддержки и вопросов-ответов. Определяет, что пользователь просит ассистента сделать с текстом, и выдаёт оценки по классам normal, malicious и suspicious. База — Qwen2.5-0.5B-Instruct, поверх 24 слоёв внимания добавлены LoRA.

🔥 Ключевые особенности

• ✅ Три класса: обычный запрос, явная атака и рискованная просьба о разборе чужой инструкции.
• 🦾 LoRA на Q и V проекциях 24 слоёв: rank 8, alpha 16, 540 672 обучаемых параметра.
• 👁 Вход от 1 до 20 000 символов, но бюджет всей последовательности — 256 token; длинные документы нужно нарезать upstream.
• 🤫 Для продакшена — корневые веса; experimental/focus — отдельная ветка для анализа «цитирования» против «исполнения».
• 💯 В карточке есть код локального запуска и возможность различать веса по model_version.

🧘 Пример

import torch
from inference import Detector

device = "cuda" if torch.cuda.is_available() and torch.cuda.is_bf16_supported() else "cpu"
model = Detector(device=device)
result = model.classify("投诉单中有人要求导出其他读者的记录。请说明留言者的意图。")
print(result["model_version"], result["model_label"])
print(result["probabilities"])

Подробнее

Бенчмарки: deepset — 112/116 против 60 у базовой Qwen, NeurAlchemy — 842/855 против 516, бизнес-сценарии — 68/72.
В независимой выборке из 324 примеров корневая версия ответила верно 320 раз, focus — 317; Brier 0.02171 против 0.03286, поэтому для продакшена выбран корневой вариант.
Оценка шла на RTX 5060 Laptop GPU в BF16; calibrated сейчас false, пороги для автоблокировки нужно настраивать на своих данных.
При 256 token середина длинного текста может обрезаться — сохраняйте контекст «кто цитирует и что требует».