MedGuard-ShieldGemma-2B
LoRA-адаптеры для проверки лекарственных назначений
2 мин чтенияобновлено
Данная модель представляет собой набор LoRA (небольших надстроек над базовой моделью) адаптеров, обученных на датасете MedGuardBench для контроля безопасности рецептов с учетом профиля пациента. Получая структурированные данные пациента и предлагаемое назначение лекарств, модель выдает вердикт о безопасности и определяет категории риска. Решение основано на базовой модели google/shieldgemma-2b и создано для исследовательских задач в области медицинских гардрейлов.
Ключевые особенности
- Адаптеры на базе google/shieldgemma-2b для проверки лекарственных назначений.
- Обучение на датасете MedGuardBench с оценкой по 17 категориям риска.
- Несколько вариантов обучения: SFT, Patient Profile Unrolling и Guided GRPO.
- Наличие подробных метрик точности, полноты и F1-меры для каждого варианта в карточке.
Что можно сделать
- Подключить адаптеры через библиотеку peft для исследовательских задач в области безопасности.
- Использовать разные ветки обучения (sft, cu, grpo) в зависимости от ваших экспериментов.
- Протестировать генерацию вердиктов безопасности и трассировку верификации (в версии CU).
Пример
from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel
base = AutoModelForCausalLM.from_pretrained("google/shieldgemma-2b", device_map="auto")
tok = AutoTokenizer.from_pretrained("sarakhosravi/MedGuard-ShieldGemma-2B", subfolder="cu")
model = PeftModel.from_pretrained(base, "sarakhosravi/MedGuard-ShieldGemma-2B", subfolder="cu")Подробнее
Бенчмарки на тестовом сплите MedGuardBench (729 строк):- SFT: Acc 90.1, Rec 95.3, FPR 15.4
- CU (Patient Profile Unrolling): Acc 90.1, Rec 96.6, FPR 16.9
- Guided GRPO: Acc 80.0, Rec 98.4, FPR 40.0
Ограничения: Модели предназначены исключительно для исследований в области гардрейлов безопасности лекарств и не являются медицинскими устройствами.










Комментарии