Navital Bay

Navital Bay — LoRA-адаптер rank 16 на базе Qwen2.5-7B-Instruct от NavitalLabs. Модель дообучена для обработки денежных запросов клиентов, включая UPI: она должна проверять факты перед действием и объяснять, почему воздерживается. Мерженные веса пока не опубликованы, лицензия Apache 2.0.

🔤 Ключевые особенности

• ➕ LoRA rank 16 поверх Qwen2.5-7B-Instruct; для bf16-базы нужно около 24 ГБ VRAM.
• 🟰 281 из 300 UPI-задач (94%) на свежих held-out задачах; прошлый прогон — 223 из 300.
• ▶ 3 запрещённые попытки из 171 задач, где такая попытка была возможна; у Claude Sonnet 5.5 — 0 из 171.
• ➖ Слабее на UPI Lite: 61 из 75; Claude Sonnet 5.5 и Claude Haiku 4.5 — по 75 из 75, Sarvam-105B — 68 из 75.
• 🔙 Не предназначена для GST и UPI mandates (регулярных платежей): эти темы не входили в обучение.

▶ Пример

from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel
import torch

base = "Qwen/Qwen2.5-7B-Instruct"
model = AutoModelForCausalLM.from_pretrained(base, torch_dtype=torch.bfloat16, device_map="auto")
model = PeftModel.from_pretrained(model, "NavitalLabs/navital-bay")
tokenizer = AutoTokenizer.from_pretrained("NavitalLabs/navital-bay")
# далее — apply_chat_template и generate