Numbat-SuperExpert 12GB

Numbat-SuperExpert (12GB) — on-device консолидация архитектуры burner22/numbat на ~14 трлн параметров: 114 слоёв, 1 224 эксперта, гибрид GDN/MLA. По карточке модель сжата до 12 ГБ методом AW-SECD и рассчитана на ноутбуки и ПК с 16 ГБ RAM.

🔤 Ключевые особенности

• ➕ 12,0 ГБ в 18 шардах Safetensors — портативный формат для потребительского железа.
• 🔜 Контекст до 262 144 токенов.
• ➖ Заявлено сохранение 95,2% агрегированного качества относительно 14T MoE.
• ▶ Базовая архитектура — гибрид GDN/MLA с 1 224 экспертами.
• 🔤 Запуск через Ollama одной командой.

▶ Пример

ollama run hf.co/shashanth-27xA9/Numbat-SuperExpert-12GB

Подробнее

Бенчмарки: ARC-Challenge 87,6%, GSM8K 84,8%, HumanEval 80,8%, MMLU 84,1%.
Агрегированный результат — 84,3% против 88,4% у базовой 14T MoE; заявленный retention — 95,2%.
Размер — 12 ГБ, целевое железо — 16 ГБ RAM; контекст — до 262 144 токенов.