Muse Shield er-v3a

Это PEFT-LoRA от TheEmperor2 для Muse Glimmer 30B — локальный движок приватности в шлюзе Muse Shield. Адаптер работает на вашей машине и превращает документ или сообщение в граф сущностей, чтобы облачная модель видела только плейсхолдеры вроде <PERSON_1>. Нужен, когда хочется пользоваться внешней LLM, не отправляя ей приватные данные.

🔥 Ключевые особенности

• ✔ Находит не только PII: людей, организации, суммы, ID, контакты, адреса, даты, секреты, здоровье и др.
• 🔮 Строит entity graph: сущности, все упоминания (включая «он», «его счёт»), владельцев значений и связи.
• 💻 Заменяет значения стабильными плейсхолдерами; соответствия хранятся в зашифрованном локальном vault.
• 📚 По бенчмаркам 30B-модель локально близка к облачной Muse Spark по утечкам и обходит её по прямым идентификаторам, coreference и ownership.
• 🩹 Стандартный PEFT-адаптер: можно развернуть на Fireworks или self-hosted сервере с поддержкой LoRA для Muse Glimmer 30B.

💻 Пример

hf download TheEmperor2/muse-shield-glimmer-er-v3a \
  --include 'adapter_config.json' 'adapter_model*' '*.json' 'chat_template.jinja' \
  --exclude 'results/*' --local-dir er-v3a
firectl create model muse-shield-glimmer-er-v3a-s250 ./er-v3a \
  --base-model accounts/fireworks/models/muse-glimmer-30b

Подробнее

📚 Nemotron-PII: core leak 2.0%, все типы утечек 9.5%; PUPA: 86.2% промптов полностью защищены.
✔ TAB: прямые идентификаторы защищены на 98.9%, precision 85.1%; ER: coreference F1 0.974.
💻 LoRA: rank 16, alpha 32, 12 160 обучающих строк; eval loss снизился с 0.1715 до 0.0037.
🩹 Ограничения: в основном английский текст; очень длинные документы иногда дают невалидный JSON, возможны пропуски повторных упоминаний.