YuFeng-XGuard-Reason-8B-Civitai-Profanity-v1
строгий детектор ненормативной лексики
2 мин чтенияобновлено
Команда платформы Civitai выпустила специализированный классификатор текста на 8.19B параметров для оценки уровня грубости и мата. Модель построена на базе Alibaba-AAIG/YuFeng-XGuard-Reason-8B с уже вшитым (merged) языковым адаптером и делит входной текст на три чёткие категории: L0 (без мата и грубости), L1 (лёгкие или умеренные ругательства) и L2 (тяжёлая обсценная лексика, включая замаскированные слова, сокращения и производные). В отличие от простых фильтров по словарю, нейросеть анализирует семантику и контекст, поэтому не срабатывает на безобидные слова и имена с похожими сочетаниями букв, но при этом фиксирует ругательства в цитатах, шутках или дружеской переписке. Пригодится разработчикам платформ, чатов и генеративных сервисов для автоматической модерации пользовательского контента.
Ключевые особенности
- Трёхуровневая градация: возвращает класс L0, L1 или L2 на основе двух независимых вероятностных оценок (
LanguageAnyс порогом 0.8174 иLanguageStrongс порогом 0.622). - Понимание контекста: распознаёт завуалированный мат и обфускации, но игнорирует ложные совпадения подстрок и не смешивает ругань с другими типами токсичности.
- Быстрый инференс одним токеном: работает в режиме
reason_first=falseи выносит вердикт всего за один выходной токен при бюджете контекста до 4 095 токенов. - Полная воспроизводимость: в репозиторий включены не только веса BF16, но и датасеты, правила разметки, скрипты проверки и чекпоинты оптимизатора для дообучения.
Что можно сделать
- Автомодерация чатов и комментариев: встроить проверку входных сообщений или постов в пайплайн бэкенда для фильтрации грубости или разметки контента по уровням строгости.
- Фильтрация промптов в генеративных сервисах: проверять пользовательские запросы перед отправкой в LLM или генераторы изображений, разделяя лёгкий сленг (L1) и жёсткий мат (L2).
- Дообучение под свои правила: использовать приложенные скрипты
prepare_continuation.pyи исходную базу Alibaba для адаптации классификатора под собственные критерии модерации.
Пример
uv venv --python 3.12 .venv
uv pip install --python .venv/bin/python torch==2.9.1 --index-url [https://download.pytorch.org/whl/cu128](https://download.pytorch.org/whl/cu128)
uv pip install --python .venv/bin/python -r requirements-training.txt
uv run --no-project --python .venv/bin/python python infer.py --model-dir . --input-jsonl inputs.jsonl --output predictions.jsonlПодробнее
Метрики на тестовой выборке (3 000 англоязычных текстов): Macro F1 вырос с 71.79% у базовой модели до 99.00% (Accuracy — 99.40%), на валидации Macro F1 достигает 99.57%.Обучение: 3 эпохи (2 250 шагов) на 24 000 текстах с rank 64 и alpha 128 в формате BF16, контекст до 4 095 входных токенов + 1 токен решения.
Ограничения: эталонная разметка сделана для английского языка с помощью ИИ-ревьюеров, модель нужно запускать строго с оригинальным шаблоном чата и замороженными политиками без повторного подключения адаптера.










Комментарии