QEV-0.8B-compact

QEV-0.8B-compact — мультимодальная decision-модель на 466 313 408 параметров (55% от QEV-0.8B). Она принимает текстовые свидетельства и до четырёх изображений вместе с вариантами ответа, а возвращает вероятность каждого варианта, типизированный ответ и отдельный флаг отказа за один прямой проход, без генерации токенов.

🔤 Ключевые особенности

• ➖ Языковая модель обрезана после блока 16 из 24; словарь сокращён до 32 768 строк из 248 320.
• ➕ Визуальный энкодер и проектор без изменений от QEV-0.8B v3: замороженный Qwen3.5 encoder.
• 1⃣ Публичная половина JEV Decision Index vision suite: 12 210 строк, 11 бенчмарков; public vision index — 52.46.
• 2⃣ На RTX 4060 Ti 8 GB: p95 273.6 мс, медиана p50 54.4 мс, пик GPU 1.15 GiB.
• 3⃣ Доступен только accurate mode: до 1 638 400 пикселей на изображение, 8 192 входных токена, максимум 4 изображения.
• 4⃣ Температуры и пороги отказа пересчитаны на release Calibration DEV; целевые 15% ошибки — наблюдение, не гарантия.

◀ Пример

from qev_decision_index import QEVEngine

engine = QEVEngine(model="ken-jo/QEV-0.8B-compact")  # accurate mode, CUDA

Подробнее

Публичный vision index: 52.46 (95% интервал 50.9–54.1) против 52.70 у QEV-0.8B v3; разница −0.24, парный тест не проводился.
Пик GPU 1.15 GiB против 1.86 GiB у QEV-0.8B v3; p95 273.6 мс против 331.3 мс.
Язык — только английский; не для модерации, решений о людях, медицины, права, финансов и свободной генерации.
Приватная половина бенчмарка пока не известна; у родительской модели падение 14–16 пунктов с public на private.