parchi-v3

parchi-v3 — дообученная Qwen2.5-0.5B-Instruct (0,49 млрд параметров; LoRA r=16, затем merge) для разбора закупочных заметок бакалейного магазина (kirana). Понимает Hinglish, английский и Telugu — в том числе романизированный — и возвращает заказ в JSON. В репозитории полная 16-битная модель в safetensors весом 953 МБ; отдельно есть GGUF и LoRA-адаптер.

🗂 Ключевые особенности

• 📌 Возвращает JSON по схеме: vendor и lines с item, qty, unit, rate, brand.
• 💬 Читает заметки на Hinglish, English и Telugu, включая латиницу.
• ⚙ Обучена на 5 250 сгенерированных заметках по каталогу из 420 товаров; обучение шло на CPU ноутбука, затем LoRA merged.
• 📱 Для телефонов, llama.cpp, Ollama и LM Studio есть квантованные GGUF; LoRA-адаптер весит 44 МБ.
• ✅ Exact match на ручных наборах: Hinglish 65%, Telugu 78%.
• ℹ Нужен системный промпт из карточки и greedy decoding (temperature 0).

🔎 Пример

from transformers import AutoModelForCausalLM, AutoTokenizer
tok = AutoTokenizer.from_pretrained('ajayk0608/parchi-v3')
model = AutoModelForCausalLM.from_pretrained('ajayk0608/parchi-v3')
SYSTEM = '...'  # системный промпт из карточки
msgs = [{'role':'system','content':SYSTEM},{'role':'user','content':'bhai 5 kg chini aur 2 dzn ande bhej do, chini 42 ka'}]
enc = tok.apply_chat_template(msgs, add_generation_prompt=True, return_tensors='pt', return_dict=True)
out = model.generate(**enc, max_new_tokens=256, do_sample=False)
print(tok.decode(out[0, enc['input_ids'].shape[1]:], skip_special_tokens=True))