Pluto-2.1

Pluto-2.1 от Omida AI — это 1.738B decision-модель на базе Qwen3-1.7B, дообученная из Bosun 3.1 1.7B. Она принимает состояние и вопросы с типами, а возвращает калиброванное распределение вероятностей по кандидатам — без генерации текста. Поддерживает 2–255 кандидатов и режимы choice, noul, score; веса под Apache-2.0.

🔤 Ключевые особенности

• ➕ Один forward pass оценивает всех кандидатов; нет autoregressive decoding и счёта за токены.
• ➖ Не генерирует ответ, поэтому нечего парсить, повторять или галлюцинировать.
• ✖ До 255 вариантов на вопрос; выходы — распределения choice, noul и score.
• ▶ 256 стабильных decision-token slots поверх Qwen3-1.7B; адаптер merged, репозиторий самодостаточен.
• 🟰 Apache-2.0; обучение — 2 000 LoRA-шагов, затем merge; без зависимости от PEFT на инференсе.

1⃣ Пример

from pluto21 import Pluto21
model = Pluto21('pluto-2.1')
out = model.predict(
    state={'ticket': 'Charged twice.'},
    instructions='Which team?',
    candidates=[{'id': 'billing', 'label': 'Billing'}, {'id': 'shipping', 'label': 'Shipping'}],
    decision_type='choice')
print(out['probabilities'])

Подробнее

Typed Decisions: 0.6695, DecisionBench matched: 0.7208, средняя точность: 0.6952 — выше d1-2B и d1-3B и лучшая средняя точность в сравнении.
Веса BF16, 3.44 ГБ; обучение и merge выполнены на одной 16-ГБ consumer GPU.
DecisionBench — только matched-подвыборка на 1 565 строк, не полный набор из 23 900 строк. Это decision-модель, не чат и не reasoning-модель; проверяйте на своих данных.