Nischay

Nischay от Ajeet-001 — мультимодальная модель для калиброванных структурированных решений за один проход. На вход подаются состояние (JSON, текст или 1–4 изображения) и типизированные вопросы, а на выходе — распределение вероятностей по вариантам без авторегрессионной генерации токенов. Всего 7.94B параметров, из них 3.89B — E4B-эффективный декодер.

🦾 Ключевые особенности

• 🦾 Архитектура: 3.89B core decoder + 2.90B PLE + 0.67B token embeddings + 0.17B vision tower + 0.31B audio tower.
• 🎏 Block-bidirectional readout: общий префикс состояния causal, суффиксы вопросов/опций — bidirectional внутри блока; readout slot_lm на 256 слотов.
• 💯 Калиброванные вероятности: joint Cross-Entropy + Brier (λ = 1.0), ECE 3.62% на тексте и 8.90% на vision-решениях.
• 🐆 Скорость: около 60 мс на 3 текстовых вопроса на одном GPU; поддержка noul, choice до 256 вариантов и score.
• 🏔 Мультимодальный reasoning: KIE, InfographicVQA, CV-Bench, Winoground, CharXiv, RealWorldQA в одной архитектуре.
• ✅ Деконтаминация: нулевое пересечение с Jev Decision Index 0.3/0.4 и vision-0.3 через исключение датасетов и SHA-256-дедупликацию.

🧘 Пример

from qev.engine import DecisionEngine
from qev.schema import SystemOneRequest

engine = DecisionEngine("Ajeet-001/Nischay", device="cuda:0")
q = {"refund": {"type": "noul", "instructions": "Is the customer asking for a refund?"}}
resp, meta = engine.decide(SystemOneRequest(
    state="I was charged twice this month, please refund one of them.", questions=q))
print(resp.answers)

Подробнее

Веса: 14.79 GB в bfloat16; отдельных требований к VRAM в карточке нет.
Бенчмарки: Public Vision Index 0.3 — 44.96 (12 210/12 210 строк), Public Text Index 0.3/0.4 — 37.94.
Калибровка: ECE 3.62% на тексте и 8.90% на мультимодальных vision-решениях.
Обучение: joint Cross-Entropy + Brier (λ = 1.0), temperature T = 0.70 для текста / 1.0 для мультимодальности.
Ограничения: язык — только en; слишком длинные запросы возвращают Unsupported без усечения.