MedOrqis-LLM

MedOrqis-LLM — открытая клиническая модель для арабского и английского языков. Это QLoRA-адаптер (4-bit NF4) поверх Karnak-6B-v1.0; размер — 6B параметров, лицензия Apache 2.0.

🤖 Ключевые особенности

• 🌍 Поддержка английского и арабского, включая клинические запросы.
• 💻 Рассчитана на edge-развёртывание: одна NVIDIA T4/L4 и около 3.8 GB VRAM в 4-bit.
• ✅ Вместо вероятностных вычислений при рисках, дозах и взаимодействиях модель выдаёт <tool_call> к детерминированным калькуляторам.
• 🔥 12 встроенных клинических инструментов: CKD-EPI 2021, CHA2DS2-VA, CURB-65, Wells PE, pediatric dosing и другие.
• 🤖 Наследственность: архитектура Qwen → Karnak-6B-v1.0 → MedOrqis-LLM.

💻 Пример

from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel
base_id = "Applied-Innovation-Center/Karnak-6B-v1.0"
lora_id = "seotarek/medorqis-llm"
tok = AutoTokenizer.from_pretrained(lora_id, trust_remote_code=True)
base = AutoModelForCausalLM.from_pretrained(base_id, load_in_4bit=True, device_map="auto")
model = PeftModel.from_pretrained(base, lora_id)

Подробнее

На 10 клинических сценариях: tool-calling syntax — 100% против 0% у базы; ошибка арифметики — 0% против 80%; извлечение параметров — 95% против 42.5%.
Для продакшена на T4/L4 рекомендуется --max-model-len 4096, хотя токенизатор поддерживает до 131 072 токенов.
Это исследовательский инструмент клинической поддержки, не медицинское изделие; решения должен проверять лицензированный врач.