QEV-0.8B-compact
компактная модель решений без генерации токенов
2 min readupdated
QEV-0.8B-compact — мультимодальная decision-модель на 466 313 408 параметров (55% от QEV-0.8B). Она принимает текстовые свидетельства и до четырёх изображений вместе с вариантами ответа, а возвращает вероятность каждого варианта, типизированный ответ и отдельный флаг отказа за один прямой проход, без генерации токенов.
Ключевые особенности
- Языковая модель обрезана после блока 16 из 24; словарь сокращён до 32 768 строк из 248 320.
- Визуальный энкодер и проектор без изменений от QEV-0.8B v3: замороженный Qwen3.5 encoder.
- Публичная половина JEV Decision Index vision suite: 12 210 строк, 11 бенчмарков; public vision index — 52.46.
- На RTX 4060 Ti 8 GB: p95 273.6 мс, медиана p50 54.4 мс, пик GPU 1.15 GiB.
- Доступен только accurate mode: до 1 638 400 пикселей на изображение, 8 192 входных токена, максимум 4 изображения.
- Температуры и пороги отказа пересчитаны на release Calibration DEV; целевые 15% ошибки — наблюдение, не гарантия.
Пример
from qev_decision_index import QEVEngine
engine = QEVEngine(model="ken-jo/QEV-0.8B-compact") # accurate mode, CUDA
Подробнее
Публичный vision index: 52.46 (95% интервал 50.9–54.1) против 52.70 у QEV-0.8B v3; разница −0.24, парный тест не проводился.Пик GPU 1.15 GiB против 1.86 GiB у QEV-0.8B v3; p95 273.6 мс против 331.3 мс.
Язык — только английский; не для модерации, решений о людях, медицины, права, финансов и свободной генерации.
Приватная половина бенчмарка пока не известна; у родительской модели падение 14–16 пунктов с public на private.










Comments