Vexel-DeFiCaller-3B-v1

Специализированная модель на 3,09B параметров от VexelQuant Research для крипто/DeFi-пайплайнов исполнения. Обучена через Unsloth SFT и GRPO; по карточке должна выдавать строгий JSON без Markdown для маршрутизации on-chain транзакций.

✨ Ключевые особенности

• 🤖 Позиционируется как детерминированный «zero-markdown» генератор параметров исполнения DEX.
• ✅ Заявлена 100% Strict JSON Compliance и 0% Markdown Hallucinations.
• ⚡ Ориентирована на high-frequency сценарии; есть варианты запуска через vLLM и llama.cpp/GGUF.
• 💻 Пример в карточке — преобразование торгового интента и параметров комиссии в атомарные параметры DEX.

👀 Пример

from vllm import LLM, SamplingParams

llm = LLM(model="VexelQuant/Vexel-DeFiCaller-3B-v1")
params = SamplingParams(temperature=0.1, max_tokens=128)
prompt = "<|im_start|>system\nYou are Vexel-DeFiCaller... Output MUST be raw, valid JSON.<|im_end|>\n<|im_start|>user\n[INPUT]<|im_end|>\n<|im_start|>assistant\n"
outputs = llm.generate([prompt], params)
print(outputs[0].outputs[0].text)

Подробнее

В таблице: p50 — 10 727,81 ms, p95 — 11 159,45 ms; Strict JSON — 100%, Markdown-галлюцинации — 0%.
При этом в тексте заявлены «sub-20ms» — цифры в таблице этому противоречат, стоит проверять.
Доступны vLLM и GGUF/llama.cpp; требования к VRAM в карточке не указаны.
Базовая модель и языки не указаны; кастомные веса и приватные RPC — по запросу.