d3-edge

d3-edge — это 0.59B мультимодальная фундаментальная модель принятия решений Decision 3.0 от vLLM Semantic Router, построенная на базе Qwen/Qwen3.5-0.8B. Она принимает текст или JSON, опционально изображения и видео, и отвечает на вопросы выбора, «да/нет» или оценки, возвращая вероятность для каждого варианта без генерации текста.

✨ Ключевые особенности

• 👁 Читает несколько изображений за запрос: PNG, JPEG или WebP — пути, URL, PIL или base64.
• ▶ Понимает несколько видео за запрос: MP4, WebM, MOV или MKV, чтение на 2 кадра/с.
• ✅ Поддерживает три типа решений: Choice, Yes/No и Score — все вопросы за один вызов.
• ⏳ Медианная задержка: 6.6 мс для текста, 58.6 мс с изображением и 274 мс для 10-секундного видео на AMD Instinct MI325X.
• 💻 До 861 запроса/с с p99 ниже 1 с на одной MI325X через vLLM Semantic Router — 6.1× к AutoModel.
• ⭐ Лицензия Apache-2.0.

💻 Пример

from transformers import AutoModel

model = AutoModel.from_pretrained("vllm-sr/d3-edge", trust_remote_code=True)
result = model.system_one(
    state="Клиент просит замену повреждённого товара",
    questions={"route": {"type": "choice", "instructions": "Кто должен обработать запрос?",
                         "criteria": {"returns": "Возвраты", "billing": "Оплата"}}},
)
print(result["answers"])

Подробнее

Jev Decision Index 0.3.2 — 20.2 на официальном текстовом борде; public suite — 28.82.
+6.6 к Decision 2.0; Perception Test (video QA) — 46.6.
Пик памяти: AutoModel — 5.2 GiB; Engine mode — 15.9 GiB на реплику, 19.9 GiB с батчингом.
Видео читается с частотой 2 кадра/с, до 32 кадров.