Qwen3.5-9B-Brainwaves-Coder-Flash-OneJev1.6
экспериментальный мердж для кода и рассуждений
2 min read
Перед нами мультимодальная языковая модель (работает с текстом и изображениями, задача image-text-to-text) объёмом 9.65B параметров от автора nightmedia. Это мердж (объединение весов нескольких моделей в одну) трёх чекпоинтов семейства Qwen3.5: Qwen3.5-9B-Brainwaves, Qwopus3-5-9B-Coder-Flash и OneJev1.6-9B. За счёт объединения весов модель прибавила в задачах на логику и математику по сравнению как с базовой Qwen3.5-9B (Instruct), так и с исходным компонентом Brainwaves. Подойдёт разработчикам и энтузиастам, которым нужна компактная модель с сильными навыками программирования и решения задач, способная работать на одной видеокарте среднего уровня.
Ключевые особенности
- Объединение трёх веток: сочетает наработки
Brainwaves, ориентированного на кодCoder-FlashиOneJev1.6-9B. - Прирост над базой: в бенчмарке ARC-Challenge в точности
mxfp8модель набирает 0.699 против 0.571 у стандартнойQwen3.5-9B (Instruct). - Подробные замеры квантования: автор протестировал 6 вариантов сжатия (от
bf16доmxfp4), показав минимальную просадку перплексии (метрика уверенности модели при генерации текста) вплоть до 6-битных форматов. - Мультиязычность: заявлена поддержка английского, китайского, японского и испанского языков.
Что можно сделать
- Использовать через библиотеку
transformersкак универсального локального ассистента для написания и разбора кода (в тесте HumanEval версияoQ6e-mtpпоказывает 79.3%). - Запускать в квантованных форматах
q6-hiилиmxfp4на системах с ограниченной видеопамятью для решения математических и логических задач (90.52% на GSM8K вmxfp8). - Применять в сценариях анализа изображений с текстовым ответом (
image-text-to-text).
Пример
В карточке модели нет готового сниппета для запуска, но приведены замеры работы в разных форматах квантования. Например, при выборе mxfp4 пиковое потребление памяти снижается с 24.69 GB (в bf16) до 11.55 GB при скорости 727 токенов в секунду и перплексии 4.327.
Подробнее
Бенчмарки (bf16): ARC — 0.698, ARC-Easy — 0.878, BoolQ — 0.904, HellaSwag — 0.769, WinoGrande — 0.717.Для квантования
oQ6e-mtp: HumanEval — 79.3%, GSM8K (full) — 96.3%, TruthfulQA — 78.0%, SafetyBench — 86.8%.Потребление памяти: 24.69 GB для
bf16, 16.02 GB для mxfp8, 14.29 GB для oQ6e-mtp, 11.55 GB для mxfp4.









Comments