Sage-A1.5-Concise

Это версия InternScience/Sage-A1.5 от TheFusionCube на ~36 млрд параметров: после RL модель учили тратить меньше токенов на chain of thought. Архитектура, токенизатор, chat template, vision encoder и MTP head не менялись, поэтому это drop-in замена базовой модели.

🔍 Ключевые особенности

• 📉 В среднем на 18% меньше токенов на пяти бенчмарках; разброс — 11–26%.
• ✔ Ни один из пяти результатов значимо не ниже базовой модели (paired bootstrap, 95%).
• 🔄 Полностью совместима с базовой Sage-A1.5: меняется только один шард весов.
• 💾 Есть FP8 на 39 ГБ для vLLM/SGLang и GGUF Q4_K_M–Q8_0 на 22–38 ГБ для llama.cpp.
• ⚙ Обучение: 100 версий on-policy RL; обновлялись только LM-тензоры — 570 тензоров в одном шарде.

💻 Пример

vllm serve TheFusionCube/Sage-A1.5-Concise \
  --port 8000 \
  --max-model-len 262144 \
  --reasoning-parser qwen3 \
  --enable-auto-tool-choice \
  --tool-call-parser qwen3_coder

Подробнее

Бенчмарки: ChemCoTBench −1.05 балла при −26% токенов, SciCode +0.95 при −21%, IFBench +0.11 при −13%.
Железо: BF16-версия ~36B; FP8 — 39 ГБ, GGUF — 22–38 ГБ.
Ограничения: на ChemCoTBench результат на грани, agentic/tool-use/long-context не оценены, MTP head не обучался, на IFBench 7 из 600 ответов зацикливались.
Цепочки стали короче, но на сложных задачах всё ещё могут превышать 20 000 токенов.