Qwen3.5-9B-Brainwaves-X
merge пяти 9B-моделей в MLX-кванте q6-hi
2 мин чтения
Экспериментальный merge от независимой лаборатории nightmedia на базе Qwen3.5-9B: смешаны Brainwaves, Emergent, Qwopus3-5-9B-Coder-Flash, DeepThought-STEM и OneJev1.6. 9.41 млрд параметров, в репозитории — MLX-квант q6-hi, в карточке также приведены замеры для q8-hi и q4-hi. Заявленные языки — английский, китайский, японский и испанский.
😎 Ключевые особенности
- 🤝 Merge из пяти дообученных веток Qwen3.5-9B — код, STEM, «персона» и рассуждения в одном чекпоинте
- 👍 Три уровня MLX-квантования (q8-hi, q6-hi, q4-hi) с отдельными замерами perplexity для каждого
- 📝 В карточке — таблицы по ARC, BoolQ, HellaSwag, OBQA, PIQA и Winogrande, а также сравнение с базовой Qwen3.5-9B Instruct
- 😎 Ориентир на локальный запуск: пиковая память базовой Brainwaves в q6-hi — 14.62 ГБ
- 🤔 Автор прямо называет merge экспериментальным и приводит тестовый промпт с рассуждениями о квантовой механике и Star Trek
📝 Пример
В карточке как тест — промпт: «Perform a deep mathematical analysis and draw a functional parallel from QM/QFT to the inference process in the transformer architecture and summarize the implications». Модель отвечает разбором аналогий (суперпозиция → скрытое состояние, измерение → softmax, нелокальность → self-attention) и заканчивает самоанализом собственного инференса.
Подробнее
q6-hi: perplexity 4.096 ± 0.026, q4-hi — 4.191 ± 0.027Верхняя таблица q6-hi: arc 0.703, arc/e 0.876, boolq 0.905 (три первых колонки)
Базовая Brainwaves q6-hi: 14.62 ГБ пиковой памяти и 597 ток/с; bf16 — 24.69 ГБ и 767 ток/с
Ограничения: часть ячеек бенчмарков не заполнена, лаборатория работает на одном MacBook Pro 128 ГБ
Комментарии