Viper-9B

Viper-9B — флагманская модель линейки RR-Gen1 от rrchat на базе Qwen3.5-9B: 8,95 млрд параметров и поддержка русского и английского. Заточена под автономную оркестрацию инструментов, structured function calling, генерацию кода и соревновательное программирование.

💪 Ключевые особенности

• 💪 Агентные сценарии: нативная поддержка структурированных XML-вызовов функций, 99.0% valid call rate и 57.0% BFCL AST.
• 👀 Код: LiveCodeBench v6 — 33.0% против 19.0% у базы, с ростом на Easy и Medium.
• 🍒 Python: 84.7% на MBPP+ (+1.4% к базе).
• 💸 Русский и английский: MGSM ru — 44.4% (+2.4%), билингвальные инструкции.
• 🤫 R-Tuning: меньше уверенных галлюцинаций на неизвестных темах.
• 😐 MMLU-Redux — 74.0%, общие знания сохраняются.

👀 Пример

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer
model_id = "rrchat/Viper-9B"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, torch_dtype=torch.bfloat16, device_map="auto")
messages = [{"role": "user", "content": "Привет! Помоги решить задачу."}]
prompt = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
# inputs = tokenizer(prompt, return_tensors="pt").to(model.device)

Подробнее

Бенчмарки: LiveCodeBench v6 — 33.0% против 19.0% у базы; MBPP+ — 84.7%; MGSM ru — 44.4%; BFCL AST — 57.0% при 99.0% валидных вызовов.
BFCL AST чуть ниже базы (58.0%), IFEval — 54.7% (паритет ~55%).
Обучение: файнтюн Qwen3.5-9B с R-Tuning для калиброванной «честности».
Оценки локальные: greedy non-thinking, max_tokens 1024, llama-server с jinja; могут отличаться от официальных.
Требования к VRAM в карточке не указаны; есть отдельные GGUF-веса.