WSP BERT Insurance v1 p50

Это BertForSequenceClassification на базе bert-base-uncased, превращённый в 8-классовый классификатор страховых предложений. Веса правил editor LLM напрямую — через closed-form math по весам и активациям, без backprop и оптимизаторов. Размер — 0.11B параметров, язык — английский.

✨ Ключевые особенности

• ✅ Обучение без градиентного спуска: editor LLM читает и записывает веса напрямую.
• 🎱 8 классов: coverage_grant, exclusion, premium_payment, deductible_limits, claims_procedure, definitions, term_cancellation_renewal, conditions_duties.
• 💎 Изменено 132 тензора — 5.323% параметров модели.
• ⭐ Held-out test accuracy — 98.31%, macro-F1 — 0.9833.
• 👁 Есть варианты p00, p10, p25 и p50, а также линейка v0.

💻 Пример

from transformers import pipeline
clf = pipeline("text-classification", model="sidman007/wsp-bert-insurance-v1-p50")
clf("Flood damage is not covered under this policy.")

Подробнее

📓 Held-out test accuracy — 98.31%, macro-F1 — 0.9833.
👁 Модель точная, но некалиброванная: softmax-вероятности плоские, победивший класс обычно около 0.2. Используйте argmax; для уверенности калибруйте temperature на своих held-out данных.
⏳ Обучение — редактирование весов editor LLM: closed-form math по весам и активациям, без backprop и оптимизаторов.
✅ Протокол и логи: GitHub.