RSI-Jev v7.0-VL 3B

Это урезанная до 20 слоёв версия v7.0-VL 4B без переобучения: 3,30 млрд параметров, первые 20 из 32 decoder-слоёв, главная голова layer-20 и early exit на layer-16. Модель отвечает на вопросы типов choice / noul / score по документу и до четырёх изображений.

🔍 Ключевые особенности

• ⚡ System One: один forward pass, без генерации reasoning, вероятность для каждого варианта.
• 💎 Все веса — от v7.0-VL 4B; на 4 001 строке Decision Index ответы совпадают бит-в-бит.
• 🖥 Самодостаточный чекпоинт: 20 decoder-слоёв, эмбеддинги, vision tower и две головы.
• 📊 Decision Index 0.3: 60,01 против 60,61 у 4B; медианная задержка 19,6 мс против 29,4 мс.
• 🔗 Jev HTTP API: до 32 768 токенов, до 5 120 вариантов, вход не обрезается.
• ⚙ effort задаёт число слоёв (16 или 20), а не число токенов; токены не генерируются.

💻 Пример

pip install "rsi-jev[fast,vision] @ git+https://github.com/Shanghua-Gao/RSI-Jev"
rsi-jev serve v7.0-vl-3b

Подробнее

Decision Index 0.3: 60,01 (у 4B — 60,61); 15-бенчмарковый suite — 0,791; held-out — 0,797.
Запуск на одной RTX PRO 6000 Blackwell: медиана 19,6 мс, 95-й перцентиль 151 мс; пакет — 6,8 ГБ.
Ограничения: нет layer 32, знания проседают (MMLU-Pro 0,469 против 0,502), пороги не переобучали под два выхода.