Prenatal case-only DoRA

Prenatal case-only DoRA — исследовательский бинарный классификатор от lanshi: отличает case report / case series от других дизайнов (когорта, скрининг/валидация, обзор, метод, регистр) в пренатальной генетической литературе. База — NeuML/pubmedbert-base-embeddings, сверху DoRA-адаптер; всего 0,11 млрд параметров, обучаемых — 0,56%. Это research artifact, не клинический инструмент.

🔥 Ключевые особенности

• ✅ База — NeuML/pubmedbert-base-embeddings; DoRA (PEFT), r=16, α=32, target query/value.
• 💯 Обучаемых параметров 611 330 из 110 093 570 — 0,56%.
• ⬇ Документ — 480-токенные чанки (до 12; первые 2 сохраняются), пулинг L2(mean_all) ‖ L2(mean_first_2) → 1536-d; голова linear 1536 → 2.
• 🤝 Два порога: 0,3962 (F1-оптимальный) и 0,3502 (precision ≥ 0,90).
• 🩸 Обучение на 864 статьях с разметкой design: 376 case report / case series и 488 других дизайнов; 110 пропусков/other исключены.

😎 Пример

from modeling_case_dora import CaseDoraPredictor

clf = CaseDoraPredictor.from_pretrained('<repo-id>')
out = clf.score(
    title='Prenatal diagnosis of a 22q11.2 deletion in a fetus with tetralogy of Fallot',
    text='Full article text (methods/results are useful; title alone also works).',
)
print(out)

Подробнее

5-fold CV: AP 0,987 ± 0,009, F1 0,938 ± 0,021, OOF AUC 0,970.
OOF на пороге 0,3962: precision 0,942, recall 0,947, F1 0,944; на 0,3502 — P 0,900, R 0,960.
Ограничения: research artifact, не для клинических решений; разметка design содержит шум; очень длинные статьи сэмплируются до 12 чанков.
Домен — пренатальная генетика; вне него качество неизвестно.