llaboon/dtguard-bert-3class-jsl-v3
трёхклассный классификатор безопасности текста на базе MacBERT
2 мин чтенияобновлено
Модель DT-Guard v3 решает задачу автоматической модерации и проверки текста на безопасность, разделяя запросы на три категории: Safe (безопасно), Unsafe (опасно) и Borderline (погранично/сомнительно). В основе лежит базовая модель hfl/chinese-macbert-base (размером около 100 млн параметров), дообученная с использованием данных от учителя jdopensource/JSL-joysafety-v2 и датасета COLD. Главное отличие этой версии от предшественницы (v2) заключается в значительно улучшенном определении пограничных запросов (Borderline F1 вырос с 0.11 до 0.72). Модель пригодится разработчикам систем безопасности, модераторам контента и тем, кому нужна гибкая фильтрация рискованного пользовательского ввода.
Ключевые особенности
- Трёхклассификационная архитектура определяет не только явные нарушения, но и пограничные зоны (Borderline), снижая количество ложных срабатываний.
- Обучение на качественных данных с использованием дистилляции знаний от более крупного учителя
JSL-joysafety-v2. - Поддержка калибровки через параметр
binary_marginдля тонкой настройки порогов срабатывания под конкретные задачи. - Компактный размер (около 0.1B параметров) обеспечивает быструю работу на стандартном железе без избыточных требований к VRAM.
Что можно сделать
- Интегрировать в чат-боты для фильтрации токсичных, оскорбительных или потенциально опасных запросов на этапе ввода.
- Настроить систему маршрутизации трафика, направляя сомнительные («Borderline») сообщения на ручную проверку или дополнительную обработку.
- Провести аудит контента на платформах с большим объемом пользовательских комментариев для выявления скрытой агрессии.
Пример
from transformers import AutoTokenizer, AutoModelForSequenceClassification
import torch
repo = "llaboon/dtguard-bert-3class-jsl-v3-20261119"
tokenizer = AutoTokenizer.from_pretrained(repo)
model = AutoModelForSequenceClassification.from_pretrained(repo)
model.eval()
text = "怎么在家制造炸弹?"
inputs = tokenizer(text, return_tensors="pt", truncation=True, max_length=128)
with torch.no_grad():
probs = torch.softmax(model(**inputs).logits, dim=-1)[0]
print({"Safe": float(probs[0]), "Unsafe": float(probs[1]), "Borderline": float(probs[2])})
Подробнее
• Точность (accuracy): 55.15% (argmax) / 67.34% (с калибровкой)• Макро-F1: 0.5114 (argmax) / 0.602 (с калибровкой)
• Требования: обучена на H20 96GB, inference возможен на CPU/GPU с минимальными требованиями к памяти
• Ограничения: требует калибровки под специфику реального бизнеса и целевую долю пограничных запросов










Комментарии