Qwen2.5-0.5B-PromptBus-v1

Qwen2.5-0.5B-PromptBus-v1 — файнтюн Qwen2.5-0.5B-Instruct на 492M параметров от Runtime-Slayers. Модель заявлена как низколатентный роутер меж-агентной коммуникации: JSON-RPC-схемы, диспетчеризация интентов и sub-symbolic message routing. Язык карточки и метаданных — английский.

📝 Ключевые особенности

• 🗣 Высокопроизводительная низколатентная маршрутизация сообщений между агентами.
• 📝 Управление JSON-RPC-схемами и диспетчеризация интентов.
• 🤝 Заявлена координация с фронтирными оркестраторами (NVIDIA Nemotron-3-Ultra 550B, DeepSeek V4.1, GLM-5.3, MiniMax M3.1, Kimi K3.1 Pro) в рамках SLM Swarm Engine.
• 🤓 Веса изменены через Gram-Schmidt Subspace Null-Space Model Editing; заявлено нулевое катастрофическое забывание (ΔW · V_base = 0).

⌨ Пример

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

model_id = 'BRR1154/Qwen2.5-0.5B-PromptBus-v1'
tok = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, torch_dtype=torch.float32, device_map='auto')
messages = [{'role': 'user', 'content': 'Execute domain task.'}]
inputs = tok.apply_chat_template(messages, tokenize=True, add_generation_prompt=True, return_tensors='pt').to(model.device)

Подробнее

Бенчмарки в карточке — официальные для базовой Qwen2.5-0.5B-Instruct: HumanEval 41.5%, MMLU 46.8%, GSM8K 43.1%. Для самой PromptBus-v1 отдельных оценок нет.
VRAM/железо не указаны; в примере веса загружаются в float32.
Ограничения: 492M параметров, английский язык, ставка на closed-loop harness с перехватом ошибок.