Medical Prescription OCR
распознавание рукописных рецептов
1 мин чтения
Это файнтюн Donut от NAVER Clova для извлечения текста из рукописных медицинских рецептов. Модель около 0,2 млрд параметров, обучена на английских документах и ориентирована на исследовательские и образовательные проекты, а не на клиническую практику.
Ключевые особенности
- Специализация на OCR рукописных рецептов, а не на общем распознавании текста.
- Поддержка разных стилей почерка; качество зависит от разборчивости и качества фото.
- Постепенная аугментация при обучении: сначала простые повороты и яркость, затем перспективные искажения, тени и motion blur.
- В карточке заявлена встроенная классификация для определения, является ли документ рецептом.
- Не валидирована для клинического использования и проверки назначений.
Пример
from transformers import DonutProcessor, VisionEncoderDecoderModel
from PIL import Image
processor = DonutProcessor.from_pretrained("Umar1342/medical-prescription-ocr")
model = VisionEncoderDecoderModel.from_pretrained("Umar1342/medical-prescription-ocr")
image = Image.open("prescription.jpg").convert("RGB")
pixel_values = processor(images=image, return_tensors="pt").pixel_values
ids = model.generate(pixel_values, decoder_input_ids=processor.tokenizer("<s_ocr>", return_tensors="pt").input_ids, max_length=512)
print(processor.batch_decode(ids, skip_special_tokens=True)[0])
Подробнее
Точность: 71% на уровне символов и 84% на уровне слов.Архитектура Vision Encoder-Decoder на базе Donut, обучение на PyTorch Lightning.
Ограничения: английский язык, редкие названия препаратов и сокращения, нечёткие изображения.
Для реальной медицины извлечённые данные должен проверять специалист.










Комментарии