vela3-turbo

vela3-turbo — референсная модель семейства Vela 3.0 от vLLM Semantic Router × KR Labs. Построена на d3-turbo v1.0: 26,09B параметров плюс 5044 MB адаптеров и голов, лицензия Apache-2.0. За один вызов system_one отвечает на routing/общие решения и находит нужные спаны — сущности, связи, персональные данные, неподтверждённые утверждения и evidence — с вероятностями и смещениями, без генерации текста.

⚙ Ключевые особенности

• 🎯 Обычные решения отдаёт замороженный d3-turbo бит-в-бит; адаптеры при этом выключены.
• 🔎 Извлекает спаны: именованные сущности, отношения, PII, неподтверждённые фрагменты ответа и предложения-evidence.
• 🧬 Небольшие gated LoRA-адаптеры под каждую задачу; включаются только для своих вопросов.
• ⚡ Zero-shot classification: 81.4 на 13-наборном GLiFormer suite — выше заявленных GPT-5-mini (79.8) и Gemma-4-31B-IT (79.69).
• 🌐 Вход — текст или JSON; для вопросов d3-turbo также изображения и видео. Ответы: choice, yes/no, score, span.

💡 Пример

from transformers import AutoModel
m = AutoModel.from_pretrained("vllm-sr/vela3-turbo", trust_remote_code=True)
r = m.system_one(
    state="Geoffrey Hinton presented capsule networks at NeurIPS in Montreal.",
    questions={"ents": {"type": "span", "criteria": ["researcher", "algorithm", "conference", "location"]}})
# researcher: Geoffrey Hinton; algorithm: capsule networks; conference: NeurIPS; location: Montreal

Подробнее

Бенчмарки: GLiFormer classification — 81.4; relations end-to-end — 35.9; zero-shot NER OOD-7 — 64.6; unsupported claims — 0.900 example-F1.
База d3-turbo закреплена на v1.0; публичный main уже v1.1. Обычные решения идут от d3-turbo бит-в-бит, адаптеры выключены.
VRAM/железо в карточке не указаны. Лицензия Apache-2.0.