InferenceGuard ModernBERT Risk
оценка риска деанонимизации по тексту
2 мин чтенияобновлено
Классификатор на базе ModernBERT-base от автора AT707, который определяет, насколько легко вычислить личные данные автора по короткому тексту. Модель одновременно оценивает четыре категории атрибутов: возраст, локацию, профессию и образование. В отличие от обычных фильтров персональных данных, ищущих прямые упоминания имён или адресов, она анализирует косвенные признаки, по которым можно сделать вывод о человеке. Инструмент пригодится разработчикам систем приватности и сервисов автоматического рерайта для защиты пользователей от случайной утечки личной информации.
Ключевые особенности
- Многозадачная архитектура: четыре независимые головы классификации с механизмом attention-pooling работают поверх базы ModernBERT-base.
- Четыре оси анализа: одновременная оценка рисков раскрытия параметров
age,location,occupationиeducation. - Корректное разделение данных: обучение проведено на датасете SynthPAI со строгим разделением по профилям авторов (profile-disjoint), чтобы исключить утечку данных между выборками.
- Фокус на защиту: модель создана исключительно для снижения рисков вывода данных, а не для идентификации реальных людей.
Что можно сделать
- Встроить модель в пайплайн предварительной модерации или чат-бота для предупреждения пользователей о том, что их сообщение выдаёт личную информацию.
- Использовать оценки классификатора как сигнал для систем автоматического переписывания текста (rewriting), чтобы снизить вероятность раскрытия атрибутов автора.
Пример
В карточке указано, что в продакшене модель вызывается через класс src.risk_model.predict.CalibratedRiskPredictor проекта InferenceGuard для оценки вероятности раскрытия возраста, локации, профессии и образования по короткому фрагменту текста.
Подробнее
Обучающая выборка: 210 профилей для обучения, 45 для валидации и 45 для теста из датасета SynthPAI.Ограничения: модель лишь снижает риск косвенного вывода атрибутов и не гарантирует полную анонимность.
Лицензия: CC-BY-NC-SA-4.0 (только некоммерческое использование с сохранением условий лицензии).










Комментарии