Health FAQ reviewed-v4

Две небольшие decoder-only модели, обученные с нуля для генерации канонических ответов на вопросы по Medicare Advantage, Medigap, Part D, Marketplace, аннуитетам и indexed universal life. Версия по умолчанию использует concept-head: предсказывает один из 1 775 концептов и обусловливает генерацию на этом предсказании. Retrieval не используется.

✨ Ключевые особенности

• 🤖 Два варианта: с concept-head и без него; параметров 2 324 719 и 2 095 744 соответственно.
• ⭐ Concept-head выбирает один из 1 775 концептов по тексту вопроса.
• ❌ Без retrieval, без pretrained base model и внешних embedding-моделей.
• 💻 Кастомная PyTorch-архитектура, не Transformers AutoModel и не hosted inference endpoint.
• 📓 Только английский; домен ограничен Medicare и смежными страховыми продуктами.
• 🔥 Обучение: 60 эпох на NVIDIA L4, выбран checkpoint эпохи 50.

💻 Пример

from inference import HealthFAQ
model = HealthFAQ(arm="with_head")
print(model.answer("What is Medicare Part C?"))

Подробнее

Exact match после нормализации: test_seen — 94,38% с head и 79,55% без; challenge_new — 47,36% и 24,77%; alias_seen_holdout — 63,91% и 39,76%.
Точность concept-head: 95,36% / 48,85% / 67,28% на тех же сплитах. Это не оценка фактической или семантической корректности.
Ограничения: только английский, слабая устойчивость к опечаткам и новым формулировкам, некалиброванная уверенность. Не использовать для решений о покрытии.
Лицензия на веса отдельно не указана.