Qwen3.8-Flash-Next-Brisk-Coder
оптимизированная версия для программирования и агентных задач
2 мин чтения
Модель представляет собой специализированную версию базовой архитектуры Brisk, созданную путем удаления половины экспертов в каждом слое с использованием маски от ISTA-DASLab. Автор оставил 256 экспертов из 512, оптимизировав модель под код и агентные задачи при сохранении высокой скорости работы и полного блока MTP (Multi-Token Prediction). За счет сокращения активных экспертов модель требует меньше оперативной памяти для запуска, сохраняя при этом точность на сложных задачах программирования. Она отлично подойдет разработчикам, использующим локальные среды на Apple Silicon для написания и отладки кода.
Ключевые особенности
- Уменьшение потребления памяти: маршрутизируемые эксперты занимают вдвое меньше памяти (около 44 ГБ с таблицей n-грам на SSD вместо 86 ГБ у оригинала).
- Специализация на коде: применены маски экспертов для кодинга, агентных сценариев и работы с визуальными данными.
- Сохраненный MTP-блок: полный блок предсказания нескольких токенов оставлен без изменений для поддержания высокой скорости генерации.
- Высокая производительность: модель демонстрирует отличные результаты на бенчмарках генерации кода (LiveCodeBench).
Что можно сделать
- Писать и отлаживать код: использовать модель в локальных средах (например, oMLX) для генерации кода на разных языках программирования с включенным режимом размышлений (thinking mode).
- Тестировать агентные задачи: применять модель для автоматизации задач разработки, требующих глубокого анализа контекста.
- Интегрировать в локальный рабочий процесс: запускать модель на Mac с поддержкой Apple Silicon для эффективной локальной разработки без отправки данных в облако.
Пример
hf download blazkepa/Qwen3.8-Flash-Next-Brisk-Coder-oQ4e-MTP \
--local-dir ~/.omlx/models/blazkepa/Qwen3.8-Flash-Next-Brisk-Coder-oQ4e-MTP
omlx restartПодробнее
Бенчмарки: LiveCodeBench pass@1 — 77% (против 63% у базовой модели и 68% у версии без LoRA).Требования к железу: около 79 ГБ в RAM на Mac со 128 ГБ или около 44 ГБ при выгрузке таблицы n-грам на SSD.
Ограничения: за пределами кодинга качество падает (MMLU снижается с 89 до 77%), польский чат сломан.
Библиотека: mlx, овердрайв через oMLX 0.8.0 на macOS.










Комментарии