Cicero

Cicero от Butler Compute — decision-модель на базе Qwen3.5-35B-A3B: MoE с 35 млрд параметров и 3 млрд активных. Она принимает состояние (текст, чат или до 4 изображений) и до 64 типизированных вопросов, возвращая калиброванную вероятность для каждого варианта ответа — без генерации текста, за один forward pass.

🔤 Ключевые особенности

• ▶ Отвечает на yes/no, choice (до 255 вариантов) и score-вопросы; до 64 вопросов за запрос.
• 🟰 Возвращает вероятность по каждому варианту, а не сгенерированный текст.
• 🔤 Понимает текст, чат и до 4 изображений; контекст до 131 072 токенов.
• ➕ 71.33 на публичном JDI при 3B активных параметрах и медианной задержке 41 мс.
• ✖ Опережает Decider v1.2 во всех областях; лучший результат в Arts & Human Taste среди сравниваемых моделей.

🔜 Пример

Запрос: текст «I still have not received my new card, I ordered over a week ago.» и choice-вопрос по 77 интентам BANKING77. Cicero возвращает: card_arrival — 0.973, card_delivery_estimate — 0.021, остальные варианты — около 0.001. Для BFCL на вопрос «invoke tool?» модель дала HNA_NEWS.search — 0.999.

Подробнее

Публичный JDI: 71.33; у mammoth-1 — 75.34, elephant-1 — 72.24, Decider v1.2 — 67.74, Drex Max — 67.52.
Cicero лучший в Arts & Human Taste (64.4), но уступает mammoth-1 в Tools & Automation, Retrieval & Classification, Language Understanding и Knowledge & Reasoning.
База — Qwen3.5-35B-A3B: MoE с 35B параметров и 3B активных; vision tower взят у базовой модели.
Основной сценарий — классификация и выбор вариантов, а не свободная генерация текста; заявленный язык — английский.