SLM-DataAnalyst-0.5B-v1

SLM-DataAnalyst-0.5B-v1 — дообученная Qwen2.5-0.5B-Instruct от BRR1154 для проверяемого exploratory data analysis, проверки гипотез и split-conformal risk bounds в медицинских и инженерных данных. 492M параметров, библиотека Transformers, язык — английский.

⚙ Ключевые особенности

• 🧩 База — Qwen2.5-0.5B-Instruct, 492M параметров.
• 🧬 Weight surgery: Gram-Schmidt null-space editing с проекцией ΔW·V_base = 0; заявлено zero catastrophic forgetting.
• 🔎 Специализация: EDA, hypothesis testing и split-conformal risk bounds.
• 🦾 Рассчитана на closed-loop execution harness: Python, headless MATLAB R2024b, Blender 5.1; ошибки исполнения перехватываются и исправляются итеративно.
• 🌐 Язык модели по метаданным — английский.

💡 Пример

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer
model_id = "BRR1154/SLM-DataAnalyst-v1"
tok = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, torch_dtype=torch.float32, device_map="auto")
msgs = [{"role": "user", "content": "Execute domain task."}]
inputs = tok.apply_chat_template(msgs, tokenize=True, add_generation_prompt=True, return_tensors="pt").to(model.device)
out = model.generate(inputs, max_new_tokens=256, temperature=0.2)
print(tok.decode(out[0][inputs.shape[1]:], skip_special_tokens=True))

Подробнее

Бенчмарки в карточке — официальные baseline базовой Qwen2.5-0.5B-Instruct: HumanEval 41.5%, MBPP 44.2%, MMLU 46.8%; отдельных замеров файнтюна нет.
492M параметров; требования к VRAM не указаны. На MATLAB baseline около 24.8% — отмечено как слабое место.
Автор предупреждает: многошаговое reasoning и глубокая самокоррекция ограничены, модель задумана для работы в execution harness.