Nirnaya Turbo 1.0

Nirnaya Turbo 1.0 — «decision-модель» от Darkrider на базе Gemma 4 26B-A4B с добавленным аудиомодулем. Она читает текст, изображения и аудио на английском и индийских языках и на каждый вопрос возвращает один ответ с вероятностью для каждого варианта за один проход. Размер — около 26,12 млрд параметров.

🔥 Ключевые особенности

• 👀 Принимает текст, изображения и аудио; языки — английский и индийские.
• 💪 На вопрос можно подать до 255 вариантов ответа и получить вероятность по каждому.
• 👉 Заявленная медианная задержка — 43 мс на запрос (p95 195 мс) на движке vLLM.
• 🥳 Обучена на смеси текста (~69%), изображений (~17%) и аудио (~14%); около 13% данных — не английский.
• 🔥 В комплекте Decision Index есть отдельные движки для vision и audio.

👉 Пример

python -m decision_index run --engine mmclm.di_engine:NirnayaEngine \
  --option model=<model dir> --option head=<model dir>/head.pt \
  --option temperature_fit=<model dir>/t_entropy.json \
  --option twice_max=3000 --option max_model_len=32768 --option gpu_mem=0.85 \
  --edition 0.3 --rows <rows.jsonl> --out <run dir>

Подробнее

Public Decision Index 0.3 — 61.78, public vision index — 72.51.
Нужны код из nirnaya-inference и Decision Index kit; для аудио — librosa, fastapi, uvicorn, python-multipart.
Слаба в сложных многошаговых рассуждениях; не использовать как единственную проверку в медицине, праве и финансах.
Лицензия Apache 2.0, как у базовой Gemma 4 26B-A4B; веса открыты без регистрации.