ritual-pii-redactor
дообученная модель для поиска и сокрытия персональных данных и секретов
2 мин чтенияобновлено
Модель ritual-pii-redactor создана на базе praveen-ritual/pii-redactor и специализируется на обнаружении чувствительной информации (PII) в текстах, логах и телах HTTP-запросов. Новый файнтюн научил модель уверенно находить криптовалютные мнемоники, приватные ключи, токен-авторизации и учетные данные, оставляя публичные адреса и блокчейн-хэши без изменений. Веса модели квантованы до INT8 и экспортированы в формат ONNX для быстрого внедрения в пайплайны обработки данных. Модель пригодится разработчикам и инженерам безопасности для автоматической фильтрации конфиденциальной информации перед отправкой в LLM.
Ключевые особенности
- Специализация на крипто-секретах: точное определение сид-фраз, приватных ключей, RPC-ссылок и токенов.
- Рост точности: отзыв (recall) по поиску секретов вырос с базовых 1.4% до 73.9%, а общая метрика micro F1 увеличилась до 84.9%.
- Сохранение публичных данных: адреса кошельков и хэши транзакций не подвергаются маскировке и проходят без изменений.
- Готовый INT8 ONNX: веса оптимизированы и зафиксированы на INT8-сетке для эффективного инференса через ONNX Runtime.
Что можно сделать
- Фильтрация запросов к LLM: интегрировать модель в прокси-сервер для очистки текста от личных данных и секретов перед вызовом языковых моделей.
- Защита логов: настроить автоматическое сканирование бэкенд-логов и HTTP-тел на наличие случайно попавших приватных ключей.
- Анализ датасетов: использовать модель для пакетной разметки и маскирования конфиденциальной информации в текстовых корпусах.
Пример
Пример команд для подготовки, обучения, ONNX-экспорта и проверки модели через консоль:
unset HF_TOKEN HUGGING_FACE_HUB_TOKEN
uv run prepare-ritual --config configs/ritual_b.toml
uv run train --config configs/ritual_b.toml
uv run export-onnx --model runs/ritual_b/model --output exports/ritual-pii-redactor --group-size 2
uv run gate --parent praveen-ritual/pii-redactor --candidate exports/ritual-pii-redactor --ritual-eval data/prepared/ritual/ritual_b/eval.jsonlПодробнее
Метрики: отзыв секретов 0.7397 (у базы 0.0145), отзыв персональных данных 0.9963, micro F1 0.8497.Обучение: LR 5e-06, 1 эпоха, 30 000 документов реплея и 4 000 специфических документов.
Формат: ONNX opset 17 weight-only INT8 с входами
input_ids и attention_mask.Ограничения: дополнительные документы сгенерированы по публичным шаблонам, а не на основе реального живого трафика.










Комментарии