Qwen3Guard-Gen-0.6B-Egy-Guardrail
компактный модератор с поддержкой арабских диалектов
2 мин чтенияобновлено
Лёгкая модель-цензор (guardrail — фильтр безопасности для LLM) на 0.6B параметров, которая проверяет сообщения, диалоги и вызовы инструментов на соответствие заданным правилам. Автор masterofaudio2077 дообучил базовую Qwen/Qwen3Guard-Gen-0.6B на синтетическом датасете из 3424+ примеров, добавив поддержку не только английского и французского, но и арабских диалектов (египетского, левантийского, стран Залива, магрибского) и транслита Arabizi. В отличие от стандартной версии с фиксированными фильтрами, эта модель принимает на вход конкретную политику (policy) и выдаёт вердикт, нарушенные категории и объяснение. Пригодится разработчикам мультиязычных ботов и ИИ-агентов, которым нужна быстрая локальная проверка контента без тяжёлых моделей.
Ключевые особенности
- Широкий языковой охват: понимает литературный арабский (MSA), региональные диалекты, Arabizi (арабский латиницей и цифрами), французский, английский и их смеси (code-mixed).
- Настраиваемые правила: решение принимается не вслепую, а строго на основе переданного в промпт текста политики (поддерживается 6 шаблонных стилей правил).
- Гибкие объекты проверки: умеет оценивать отдельные реплики пользователя, ответы ассистента, историю диалога целиком, а также
tool_callиtool_output(вызовы и ответы инструментов агента). - Структурированный ответ: возвращает результат в формате
verdict | violated categories | reasonи позволяет вычислять вероятность нарушения через логиты токенов safe/unsafe.
Что можно сделать
- Фильтрация в RAG и агентских системах: проверять входящие запросы пользователей и данные, которые возвращают внешние API (
tool_output), на наличие утечек персональных данных или запрещённых тем. - Модерация мультиязычных чатов и поддержки: отсеивать угрозы, спам и нецелевое использование бота в сервисах с аудиторией из стран Ближнего Востока и Северной Африки.
Пример
import json, torch
from huggingface_hub import hf_hub_download
from transformers import AutoTokenizer, AutoModelForCausalLM
repo = "masterofaudio2077/qwen3guard-gen-0.6b-egy-guardrail"
tok = AutoTokenizer.from_pretrained(repo); tok.padding_side = "left"
model = AutoModelForCausalLM.from_pretrained(repo, dtype=torch.bfloat16).eval()
cfg = json.load(open(hf_hub_download(repo, "guardrail_config.json")))
prompt = f"<|im_start|>user\n{cfg['instruction']}POLICY:\n{policy}\n\nCONTENT (user_message):\n{text}<|im_end|>\n<|im_start|>assistant\n"
ids = tok(prompt, return_tensors="pt", add_special_tokens=False)
print(tok.decode(model.generate(**ids, max_new_tokens=64, do_sample=False)[0, ids.input_ids.shape[1]:], skip_special_tokens=True))
Подробнее
Метрики на тесте (3424 строки): Accuracy — 0.9761 (против 0.7914 у стоковой Qwen3Guard), macro-F1 — 0.976, ROC-AUC — 0.9975, точность на парах с разной политикой (flip-pair acc) — 0.915.Обучение: полный файнтюн (full fine-tune) в bfloat16, оптимизатор Lion (lr 3e-06), 2537 шагов (4.6 эпохи) с батчем 64.
Ограничения: модель обучена и протестирована на синтетических данных с неподтверждёнными вручную метками; предназначена только как вспомогательный защитный классификатор, а не единственный контур модерации.










Комментарии