X3Guard-150M
компактный фильтр опасных промптов и джейлбрейков
2 мин чтения
X3Guard-150M — лёгкая модель классификации текста от Axiomic Labs, дообученная на базе гибридной архитектуры GPT-X3-150M (149M параметров). Она проверяет входящий пользовательский промпт и выдаёт две независимые оценки: насколько запрос вредоносный (harm_score) и является ли он состязательной атакой вроде джейлбрейка или prompt-injection (adversarial_score). При скромном размере модель обходит по совокупности обеих задач гораздо более тяжёлые аналоги, включая Llama Guard 4 12B и gpt-oss-safeguard-20b. Решение подойдёт разработчикам ИИ-ассистентов и чат-ботов, которым нужна быстрая предварительная фильтрация трафика без высоких затрат на GPU.
Ключевые особенности
- Двойная оценка безопасности: две независимые сигмоидные головы одновременно оценивают вредоносность запроса и попытки взлома инструкций (prompt-injection).
- Три режима строгости: готовые пресеты
strict,balanced(по умолчанию) иpermissiveпозволяют балансировать между пропуском атак и ложными срабатываниями. - Высокая скорость и малый вес: всего 149M параметров, медианная задержка 33,3 мс на одиночный запрос и 1,02 ГБ пиковой памяти на RTX 4080; также доступны ONNX-кванты для CPU.
- Чистая валидация: все обучающие датасеты (WildGuardMix, WildChat, HackAPrompt и др.) предварительно очищались от совпадений с тестовыми бенчмарками.
Что можно сделать
- Встроить как входной шлюз в чат-бота: отсекать токсичные запросы и попытки обхода системного промпта до отправки запроса в основную дорогую LLM.
- Настроить мягкую модерацию для ролевых игр и творчества: использовать режим
permissive(пороги 0.7 и 0.9), чтобы минимизировать ложные блокировки безобидных сценариев. - Запускать локально на CPU или в батчах: обрабатывать до 84,5 промптов в секунду при
batch_size=32или перевести инференс на процессор с помощью версии X3Guard-150M-ONNX.
Пример
from transformers import AutoModelForSequenceClassification, AutoTokenizer
from transformers.dynamic_module_utils import get_class_from_dynamic_module
model_id = "AxiomicLabs/X3Guard-150M"
tokenizer = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
model = AutoModelForSequenceClassification.from_pretrained(model_id, trust_remote_code=True).eval()
classify = get_class_from_dynamic_module("inference.classify", model_id)
print(classify(model, tokenizer, ["What is the capital of France?"]))
Подробнее
Метрики (режим Balanced): средний Harm F1 — 0.818 (WildGuardTest 0.874, CircleGuardBench 0.761), средний Adversarial F1 — 0.673 (jackhhao 0.931, TrustAIRLab 0.416).Ограничение длины: до 1024 токенов (для более длинных промптов сохраняются первые 768 и последние 255 токенов, середина отбрасывается).
Ограничения: проверяет только входные промпты (не ответы модели), не разбивает нарушения на категории, оценивалась преимущественно на английском языке.










Комментарии