Qwen3.8-27B-ZOOT-LoRA

Это LoRA-адаптер для Qwen/Qwen3.8-27B, дистиллированный из DeepSeek V4 Flash Vision Exp под экосистему ZOOT — интерактивные ролевые и нарративные системы по Arknights/Terra. Вместо обычного SFT использована cross-tokenizer logit distillation: адаптер переносит голос персонажей, reasoning и генерацию структурированного JSON в 27B-бэкбон.

⚙ Ключевые особенности

• 🎙 Дистилляция из DeepSeek V4 Flash Vision Exp в Qwen3.8-27B через cross-tokenizer logit distillation.
• 💬 Специализация ZOOT: датасет из 80% Chat и 20% Task.
• 📌 Поддержка многоходовых операторских диалогов и нарративных задач до 16 384 токенов.
• 🔍 Формат reasoning: <think>...</think> и затем JSON-ответ.
• ⚙ PEFT LoRA: r=16, lora_alpha=32, lora_dropout=0.0.

💻 Пример

from openai import OpenAI
client = OpenAI(base_url="http://localhost:8000/v1", api_key="EMPTY")
resp = client.chat.completions.create(
    model="zoot-qwen38",
    messages=[{"role": "user", "content": "阿米娅，休息一下吧。"}],
    temperature=0.7, max_tokens=1024,
)
print(resp.choices[0].message.content)

Подробнее

Данные: 80% Chat + 20% Task; контекст до 16 384 токенов.
LoRA: r=16, alpha=32, dropout=0.0; тип адаптера — PEFT LoRA (CAUSAL_LM).
Адаптер настроен под ZOOT-промпты: на общих бенчмарках поведение может отличаться от базовой модели.
Перед разбором JSON нужно удалить или распарсить блок <think>...</think>.