Jev-Style-2B-Decision-v4.2

Диагностический кандидат-продолжение Jev-Style-2B-Decision-v4 от chaoliangUNSW. Модель на 2,21 млрд параметров вместе с замороженным vision tower: по состоянию и вопросам с типами она возвращает вероятность для каждого предложенного варианта, а не свободный текст и не выполняет действия.

📌 Ключевые особенности

• ⚙ Один набор весов, без runtime ensemble; продолжение v4 с сохранённым замороженным vision tower.
• 📊 Public score 46,74 на полном Decision Index public 0.3: 140 178 запросов, все успешны. У parent v4 — 44,37; это self-run public score.
• ❗ Пре-регистрированный relative-calibration guard не пройден: ECE 0,0300812254 против 0,0195163271 у parent при допуске +0,01. Исходное решение было keep_v4, релиз диагностический.
• 🖥 До 32 768 токенов и 255 вариантов; слишком длинные входы отклоняются, а не обрезаются. Изображения — до 1 638 400 пикселей в native resolution.
• 🔄 Есть текстовые варианты GGUF F16/Q8_0/Q4_K_M и MLX BF16/8-bit.
• ⚠ Не генеративная чат-модель: обычные causal chat-runtime не воспроизводят вероятности — нужны renderer, block mask и verdict readout.

💻 Пример

from jev_style_decision import JevStyleDecision

m = JevStyleDecision('.', device='mps', dtype='float32')
answer = m.decide('The parcel arrived on time and undamaged.', 'Was the delivery successful?')
print(answer['probabilities'])
m.close()

Подробнее

Public score 46,74 — self-run, не официальный Full/private и не новый vision-board score.
Запуск: Python 3.12; заявлены CPU/MPS, для CUDA-быстрого пути — flash-linear-attention==0.6.0, BF16 и CUDA graphs на одной RTX 4090.
Global temperature 0,8813575635811984; после public score веса и temperature не менялись.
Лицензия Apache-2.0 для весов не перелицензирует сторонние датасеты и выходы teacher-модели.