eliasubz/biobert-drug-ner
быстрая модель для извлечения упоминаний лекарств
2 мин чтенияобновлено
Эта модель на базе BioBERT (108M параметров, созданная на основе dmis-lab/biobert-base-cased-v1.1) находит упоминания медицинских препаратов в текстах и классифицирует их на четыре категории: конкретное вещество (drug), группа препаратов (group), торговая марка (brand) и прочие наименования (drug_n). Модель частично дистиллирована с помощью более крупной языковой модели MedGemma-27B, что позволило получить высокую скорость обработки при сохранении ключевых метрик точности. Инструмент будет полезен исследователям, разработчикам медицинских информационных систем и специалистам по обработке текстов (NLP) на английском языке.
Ключевые особенности
- Экстремальное ускорение: обрабатывает одно предложение за 2.9 мс на RTX 3090, что в 530 раз быстрее учителя MedGemma-27B.
- Высокое сохранение точности: удерживает Macro-F1 на уровне 0.759 (89.8% от показателей учителя) и Micro-F1 0.888.
- Специализированное обучение: доучена на датасете DDI corpus с добавлением синтетических размеченных данных из PubMed для редких классов.
- Компактный размер: всего 108 миллионов параметров для удобного развертывания в продакшене.
Что можно сделать
- Анализ медицинских текстов: встраивать в конвейеры обработки научной литературы для автоматического поиска названий лекарств.
- Классификация препаратов: разделять упоминания в аннотациях и статьях на группы, бренды и действующие вещества.
- Интеграция в пайплайны NLP: использовать стандартный пайплайн библиотеки
transformersдля быстрой разметки текстов.
Пример
from transformers import pipeline
ner = pipeline("token-classification", model="eliasubz/biobert-drug-ner",
aggregation_strategy="simple")
ner("Concomitant use of warfarin and NSAIDs such as Advil increases bleeding risk.")
Подробнее
Метрики на DDI test set (1,430 предложений): Macro-F1 0.759, Micro-F1 0.888, Accuracy 0.980.Требования и ограничения: работает только с английскими текстами (DrugBank и MEDLINE); класс
drug_n распознается слабее (F1 0.34) из-за неразмеченных вручную данных учителя.Лицензия: следует условиям Health AI Developer Foundations terms.










Комментарии