Ling-3.1-flash-1019

Ling-3.1-flash-1019 — обновлённая версия Ling-3.1-flash от inclusionAI. Это Hybrid-linear MoE-модель с 560B общих параметров, 25B активных на токен и контекстным окном 1M токенов. Основной упор — сложное рассуждение, многошаговые задачи и агентные сценарии.

🔤 Ключевые особенности

• ➕ 560B параметров всего, 25B активных на токен.
• 🔜 Контекстное окно 1M токенов.
• 🔙 Hybrid-linear MoE: 63 KDA + 9 Gated MLA в пропорции 7:1, 512 routed experts, 8 активируемых и 1 shared.
• *⃣ Улучшенный пост-тренинг для научных и реальных агентных задач.
• 0⃣ Поддержка SGLang и vLLM, speculative decoding NEXTN/MTP.

🔜 Пример

vllm serve "$MODEL_PATH" \
  --port "$PORT" \
  --trust-remote-code \
  --tensor-parallel-size 8 \
  --gpu-memory-utilization 0.85 \
  --enable-expert-parallel \
  --mamba-cache-mode align \
  --speculative-config '{"method":"mtp","num_speculative_tokens":3}'

Подробнее

AA-Briefcase: 1524 (было 1397); AutomationBench-AA: 68% (было 62%).
CritPt: 26% (было 18%); SciCode: 57% (было 54%).
Artificial Analysis Intelligence Index: 44 в v4.3.2 и 29 в v5.
Запуск: 8×H200 (TP8 + EP8) или 4×GB300 (TP4 + EP4); рекомендуется SGLang.