nimbus-lora-format-tuning-adapter

LoRA-адаптер от MatiasMarro для Qwen/Qwen2.5-0.5B-Instruct. Он учит модель всегда отвечать по структуре тикетов поддержки NimbusCloud: [DIAGNOSTICO], [PASOS] и [ESCALAMIENTO] SI - <equipo> | NO. Цель — не новые знания, а соблюдение формата; обучение и оценка только на испанском.

🔧 Ключевые особенности

• 📌 Формат ответа: одна строка диагностики, нумерованные шаги и эскалация на Redes, Plataforma, Datos, Seguridad или NO.
• ⚙ LoRA: rank 16, alpha 32, dropout 0.05, target modules q_proj,k_proj,v_proj,o_proj.
• 📊 Loss считается только по ответу assistant: токены system и user маскируются через -100.
• 🗣 Синтетический испаноязычный датасет поддержки: формальные и неформальные запросы, опечатки, неполные обращения и смешанные инциденты.
• 🔍 Сплит по группам (producto, incidencia) и held-out по целому продукту — чтобы измерять обобщение, а не запоминание.

📝 Пример

from peft import PeftModel
from transformers import AutoModelForCausalLM

base = "Qwen/Qwen2.5-0.5B-Instruct"
model = AutoModelForCausalLM.from_pretrained(base)
model = PeftModel.from_pretrained(model, "MatiasMarro/nimbus-lora-format-tuning-adapter")
# затем apply_chat_template и model.generate(...)

Подробнее

В карточке есть только baseline-метрики базовой модели: формат валиден в 0.0% zero-shot и 54.8% few-shot (3), точность эскалации — 34.8%, exact match — 0.0%.
Обучение: 3 эпохи, lr 0.0002, эффективный batch 8, max seq length 1024, fp16.
Ограничения: синтетический домен, адаптер учит структуру, а не диагностику; вне поддержки может навязывать формат тикета; только испанский.
Без базовой Qwen/Qwen2.5-0.5B-Instruct адаптер не работает — веса нужно накладывать поверх базовой модели.