Toxicity-Lens

Toxicity-Lens — открытый мультиязычный классификатор токсичности от Abacus.AI. Это ModernBERT на 308M параметров, который выдаёт семь атрибутов Perspective API как калиброванные вероятности и поставляется с сервером, совместимым по JSON. Модель создана в том числе для миграции с Perspective API до его отключения 31 декабря 2026 года.

🔍 Ключевые особенности

• 🌐 Оценивалась на 21 языке плюс Hinglish; обучалась на английском, переведённых Civil Comments, нативных арабском, амхарском и татарском, а также на веб-тексте на 17 языках.
• 📊 На бенчмарке Horizon-Labs TextDetox ROC AUC — 89.0 в 15 языках против 85.4 у Horizon-Labs multilingual-toxicity-base и 67.8 у Detoxify multilingual; F1 при пороге 0.5 — 65.2 против 43.3.
• 🛡 Лучше ранжирует токсичное, чем Qwen3Guard-Gen-8B: AUC 88.4 против 84.6, а чистых помечает 8.1% против 38.8%. Но на пороге 0.5 Qwen3Guard ловит 88% токсичных против 59%.
• ⚙ Совместима с Perspective API: тот же JSON-формат ответа, достаточно сменить URL.
• ⚡ 22 мс на комментарий на 4 CPU-потоках с 8-bit ONNX; около 2 200 комментариев в секунду на одной H100.
• © Лицензия Apache 2.0; форматы safetensors и ONNX.

💻 Пример

Сценарий из карточки: существующий клиент Perspective API отправляет текст на сервер Toxicity-Lens вместо старого URL и получает тот же JSON с семью вероятностями: TOXICITY, SEVERE_TOXICITY, IDENTITY_ATTACK, INSULT, PROFANITY, THREAT, SEXUALLY_EXPLICIT.

Подробнее

📌 Подробнее
TextDetox ROC AUC — 89.0 в 15 языках; F1 при пороге 0.5 — 65.2.
На пороге 0.8, как в документации Coral, ловит 95% английских текстов, которые помечает Perspective, и 85% мультиязычных.
Вход — окна по 256 токенов; длинные тексты сервер обрабатывает перекрывающимися окнами. VRAM в карточке не указан, есть CPU Docker-образ.
Обучающие строки не опубликованы; при 0.8 модель помечает в 1.2 раза больше английских и в 1.9 раза больше мультиязычных текстов, чем Perspective.