Mistral Large 4 (Le Chonk)

Карточка описывает Mistral Large 4 — нативную мультимодальную MoE-модель на ~1T параметров, из которых ~52B активны на токен (с эмбеддингами и выходными слоями). Обучена с нуля на 3 800 NVIDIA Grace Blackwell; объединяет instruction following, reasoning, код и агентные сценарии.

😎 Ключевые особенности

• 🤓 128 routed experts, 4 активных на токен, плюс 1 shared expert.
• 📝 Контекстное окно 1M токенов.
• 👌 Вход — текст и изображения, выход — текст; Pixtral-style vision encoder.
• ⌨ Reasoning effort low/medium/high, function calling, JSON output и строгая JSON schema.
• 🗣 Нативная поддержка 160+ языков, включая все официальные языки ЕС.
• 😎 DSpark speculative decoding: до 1.9x выше throughput без изменения выходов.

📝 Пример

from openai import OpenAI
client = OpenAI(api_key='EMPTY', base_url='http://localhost:8000/v1')
model = client.models.list().data[0].id
response = client.chat.completions.create(
    model=model,
    messages=[{'role': 'user', 'content': 'What is 1 + 1? Answer as JSON.'}],
    reasoning_effort='medium', temperature=1.0, top_p=0.95,
)

Подробнее

Artificial Analysis Coding Agent Index: 48% — на уровне GLM-5.3, но на 47% меньше токенов на задачу.
Artificial Analysis Intelligence Index v5: 26 — лучший результат среди западных open-weight моделей.
Для vLLM в примере: tensor-parallel-size 8; при нехватке памяти снижайте max-model-len и max-num-seqs.
Лицензия Mistral Ecosystem Open-Weight: коммерческое и некоммерческое использование, но Model-as-a-Service требует отдельно�� лицензии.