Ritual PII MiniLM
детектор персональных данных и конфиденциальной информации в текстах
2 мин чтенияобновлено
Модель Ritual PII MiniLM представляет собой специализированный классификатор токенов (Token Classifier), созданный для обнаружения персональных данных, секретов и конфиденциальной информации в прозе, JSON-структурах и исходном коде. Модель базируется на архитектуре microsoft/Multilingual-MiniLM-L12-H384 (12 слоев, скрытое состояние 384, объем 0.12 миллиарда параметров) и дообучена на базе crp4222/privaite-pii-minilm. На выходе инструмент выдает разметку для 15 различных типов сущностей, включая имена, адреса, финансовые данные, пароли и API-ключи. Модель поставляется с динамическим INT8 ONNX-графом для быстрого инференса на CPU и пригодится разработчикам и специалистам по безопасности для автоматизированного аудита текстов.
Ключевые особенности
- Распознает 15 типов сущностей, включая персональные данные, финансовую информацию и секреты.
- Оптимизирована для работы на CPU благодаря динамическому INT8 ONNX-графу.
- Построена на базе легкой многоязычной архитектуры MiniLM с размером всего 0.12 млрд параметров.
- Демонстрирует улучшенные показатели точности и полноты по сравнению с родительской моделью.
Что можно сделать
- Интегрировать детектор в пайплайны обработки текстов для автоматического поиска и маскирования PII-данных.
- Проверять исходный код и JSON-документы на наличие случайно оставленных паролей и API-ключей.
- Использовать инструмент для фильтрации датасетов перед обучением других языковых моделей.
Пример
from transformers import AutoTokenizer, AutoModelForTokenClassification
model_id = "Ritual-Net/ritual-pii-minilm"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForTokenClassification.from_pretrained(model_id)
encoded = tokenizer(text, return_tensors="pt", truncation=True)
logits = model(**encoded).logits
Подробнее
Метрики: на тестовой выборке F1-оценка достигла 0.9023 против 0.8789 у родительской версии.Железо: компактный размер и ONNX-граф с фиксированным размером батча 1 рассчитаны на эффективный инференс на CPU.
Ограничения: максимальная длина последовательности ограничена 256 токенами, длинные документы обрабатываются по окнам.
Обучение: дообучение выполнено за 2 эпохи с плавной оптимизацией графа через ONNX Runtime.










Комментарии