Toxicity-Lens
открытый мультиязычный детектор токсичности на замену Perspective API
2 min read
Toxicity-Lens — открытый мультиязычный классификатор токсичности от Abacus.AI. Это ModernBERT на 308M параметров, который выдаёт семь атрибутов Perspective API как калиброванные вероятности и поставляется с сервером, совместимым по JSON. Модель создана в том числе для миграции с Perspective API до его отключения 31 декабря 2026 года.
Ключевые особенности
- Оценивалась на 21 языке плюс Hinglish; обучалась на английском, переведённых Civil Comments, нативных арабском, амхарском и татарском, а также на веб-тексте на 17 языках.
- На бенчмарке Horizon-Labs TextDetox ROC AUC — 89.0 в 15 языках против 85.4 у Horizon-Labs multilingual-toxicity-base и 67.8 у Detoxify multilingual; F1 при пороге 0.5 — 65.2 против 43.3.
- Лучше ранжирует токсичное, чем Qwen3Guard-Gen-8B: AUC 88.4 против 84.6, а чистых помечает 8.1% против 38.8%. Но на пороге 0.5 Qwen3Guard ловит 88% токсичных против 59%.
- Совместима с Perspective API: тот же JSON-формат ответа, достаточно сменить URL.
- 22 мс на комментарий на 4 CPU-потоках с 8-bit ONNX; около 2 200 комментариев в секунду на одной H100.
- Лицензия Apache 2.0; форматы safetensors и ONNX.
Пример
Сценарий из карточки: существующий клиент Perspective API отправляет текст на сервер Toxicity-Lens вместо старого URL и получает тот же JSON с семью вероятностями: TOXICITY, SEVERE_TOXICITY, IDENTITY_ATTACK, INSULT, PROFANITY, THREAT, SEXUALLY_EXPLICIT.
Подробнее
ПодробнееTextDetox ROC AUC — 89.0 в 15 языках; F1 при пороге 0.5 — 65.2.
На пороге 0.8, как в документации Coral, ловит 95% английских текстов, которые помечает Perspective, и 85% мультиязычных.
Вход — окна по 256 токенов; длинные тексты сервер обрабатывает перекрывающимися окнами. VRAM в карточке не указан, есть CPU Docker-образ.
Обучающие строки не опубликованы; при 0.8 модель помечает в 1.2 раза больше английских и в 1.9 раза больше мультиязычных текстов, чем Perspective.










Comments