Numbat-SuperExpert 12GB
14T MoE, сжатый до 12 ГБ
1 min read
Numbat-SuperExpert (12GB) — on-device консолидация архитектуры burner22/numbat на ~14 трлн параметров: 114 слоёв, 1 224 эксперта, гибрид GDN/MLA. По карточке модель сжата до 12 ГБ методом AW-SECD и рассчитана на ноутбуки и ПК с 16 ГБ RAM.
Ключевые особенности
- 12,0 ГБ в 18 шардах Safetensors — портативный формат для потребительского железа.
- Контекст до 262 144 токенов.
- Заявлено сохранение 95,2% агрегированного качества относительно 14T MoE.
- Базовая архитектура — гибрид GDN/MLA с 1 224 экспертами.
- Запуск через Ollama одной командой.
Пример
ollama run hf.co/shashanth-27xA9/Numbat-SuperExpert-12GB
Подробнее
Бенчмарки: ARC-Challenge 87,6%, GSM8K 84,8%, HumanEval 80,8%, MMLU 84,1%.Агрегированный результат — 84,3% против 88,4% у базовой 14T MoE; заявленный retention — 95,2%.
Размер — 12 ГБ, целевое железо — 16 ГБ RAM; контекст — до 262 144 токенов.










Comments