Llama-3.1-8B-Medical-ADR-Drug-NER
извлечение лекарств и побочных эффектов из текстов
2 min readupdated
Эта модель представляет собой LoRA-адаптер (небольшую надстройку над базовой нейросетью), который находит упоминания препаратов и побочных реакций (ADR) в неформальных медицинских текстах и рассказах пациентов. Она создана на базе meta-llama/Meta-Llama-3.1-8B-Instruct на 8 миллиардов параметров разработчиком Abigail Televitckiy при наставничестве Dr. Heejun Kim. В отличие от базовой модели без дообучения, адаптер существенно точнее выделяет нужные сущности из живой речи. Пригодится исследователям в области медицинской информатики, фармаконадзора и анализа отзывов пациентов на английском языке.
Ключевые особенности
- Обучение на трёх профильных датасетах: модель дообучена на объединённой выборке из наборов данных CADECv2, ADE Corpus V2 и PsyTAR.
- Лёгкая адаптация через PEFT: используется формат LoRA (
r=16,alpha=32), поэтому для запуска достаточно базовой Llama-3.1-8B и небольшого файла адаптера. - Заметный прирост точности: по метрике строгого совпадения побочных эффектов (ADR Strict F1) модель обходит базовый zero-shot вариант более чем на 15 процентных пунктов.
Что можно сделать
- Анализ отзывов пациентов: автоматизировать поиск упоминаний лекарств и жалоб на побочные эффекты в англоязычных форумах и опросах.
- Прототипирование систем фармаконадзора: встроить адаптер в исследовательский пайплайн на базе
transformersиpeftдля первичной разметки неструктурированных медицинских заметок.
Пример
import torch
from peft import PeftModel
from transformers import AutoModelForCausalLM, AutoTokenizer
base_model_id = "meta-llama/Meta-Llama-3.1-8B-Instruct"
adapter_id = "atelev/Llama-3.1-8B-Medical-ADR-Drug-NER"
tokenizer = AutoTokenizer.from_pretrained(base_model_id)
base_model = AutoModelForCausalLM.from_pretrained(base_model_id, torch_dtype=torch.float16, device_map="auto")
model = PeftModel.from_pretrained(base_model, adapter_id)
Подробнее
Метрики на тестовой выборке (10%): ADR Strict F1 — 76.54% (против 61.02% у zero-shot базы), ADR Relaxed F1 — 84.23%, Drug Exact F1 — 80.20%.Обучение: 3 эпохи в fp16 с оптимизатором AdamW (lr 2e-4, batch size 8).
Ограничения: только английский язык; коммерческое использование запрещено лицензией датасета CADECv2 (CSIRO Data Licence); не предназначена для принятия клинических решений без проверки врачом.










Comments