swiftpick-30B-A3B

swiftpick-30B-A3B от harishvs — decision-модель для agentic AI, обученная и обслуживаемая через strands-decider. Это LoRA-адаптер на nvidia/Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16 плюс небольшая readout-голова: вместо свободного текста модель выбирает один из вариантов, отвечает yes/no или ставит оценку по шкале, добавляя калиброванную уверенность. База — 31B MoE-декодер, активирующий около 3B параметров на токен.

🎯 Ключевые особенности

• 🎯 Три типа вопросов: noul (yes/no), choice (один из N) и score (уровень на упорядоченной шкале).
• ⚙ Каждый ответ содержит confidence — удобно для порогов, guardrails и автоматических решений.
• 🧩 Рассчитана на routing, выбор инструментов, проверку аргументов, triage, оценки и другие рутинные решения агента.
• ⚡ 31B MoE: около 3B активных параметров на токен; чекпойнт включает LoRA rank 64 на три прогона и soup-адаптер rank 192.
• 👀 Обучена только на тексте, но с --multimodal читает изображения, видео и аудио zero-shot через замороженные энкодеры базы.

💡 Пример

strands-decider ask harishvs/swiftpick-30B-A3B --state 'Help! My payouts have been failing for 3 days!' --choice 'Which team should handle this?=billing,sales,retail' --noul 'Does this convey urgency?' --score 'How frustrated is the writer?=calm,frustrated,depressed'

Подробнее

JevBench public: 183/231, Brier 0.287, ECE 0.059.
Нужен GPU около 80 ГБ: 31B-база весит 62,5 ГБ в bf16, плюс Mamba-ядра; практического CPU-пути нет.
Yes/no может «хеджировать»: 32 из 74 ответов на JevBench дали P(yes) между 0.20 и 0.80.
Мультимодальность zero-shot: видео — максимум 16 кадров, абстрактные вопросы слабые; лицензия — NVIDIA Open Model Agreement.