Rein-NPC-4B

Rein-NPC-4B от jmc0 — специальная версия Qwen3.5-4B, которая говорит и принимает решения. Внутри неё 64 новых токена, обучались только их embedding-строки, а исходные веса не менялись. Модель создана для игровых NPC: в одном forward pass она оценивает, нужен ли tool call, какой именно, пытаются ли переименовать персонажа или атакуют факт мира.

⚙ Ключевые особенности

• 🎯 64 новых токена с обученными embedding-строками; все оригинальные веса Qwen3.5-4B остаются неизменными.
• ⚙ В том же forward pass выдаёт калиброванную вероятность: нужен ли инструмент, какой, есть ли попытка смены имени или атака на лор.
• 🕹 Игра действует доступными средствами: предзаполняет tool call, запрещает токен вызова или добавляет напоминание в ход.
• 📡 Работает в Transformers, vLLM, llama.cpp и MLX; есть GGUF в bf16, Q8_0 и Q4_K_M. Второй сервер или вторая модель не нужны.
• 🌐 Поддерживает en и pt; правила держатся и на португальском при английской карточке.

💬 Пример

llama-server -m Rein-NPC-4B-Q4_K_M.gguf --port 8080 -ngl 99 -c 32768 --parallel 2