Qwen3.8-27B-opencode-adapted (MLX)
оптимизированная модель для Apple Silicon
2 мин чтенияобновлено
Эта модель представляет собой адаптацию мощной базовой языковой модели Qwen3.8-27B, натренированную с помощью алгоритма AsyncGRPO для эффективной работы в составе кодинг-агента OpenCode. Сборка переведена в формат MLX для запуска на устройствах Apple Silicon, включая поддержку работы с изображениями и встроенный слой предсказания нескольких токенов (MTP) для ускорения генерации. Модель отлично справляется с программной инженерией, решением задач в терминале и обработкой технической документации. Она пригодится разработчикам и инженерам, использующим локальное железо для автоматизации кодинга.
Ключевые особенности
- Специализация на задачах программирования и работе с терминалом благодаря обучению от harness-hub.
- Полная поддержка аппаратного ускорения на чипах Apple Silicon через библиотеку MLX.
- Сохраненный визуальный энкодер для работы с текстово-графическими запросами (image-text-to-text).
- Встроенный слой MTP (Multi-Token Prediction) для ускорения декодирования текстов.
Что можно сделать
- Запустить локальный OpenAI-совместимый сервер через mlx-lm для интеграции с кодинг-агентами.
- Написать скрипт на Python для генерации кода и разбора технических задач прямо с локального Mac.
- Проанализировать скриншоты ошибок в терминале или интерфейсе с помощью mlx-vlm.
- Настроить спецификативное декодирование с использованием встроенного MTP-модуля для роста скорости генерации.
Пример
Запуск локального сервера для работы модели через терминал:
pip install -U "mlx-lm>=0.32.2"
mlx_lm.server --model netprojects/Qwen3.8-27B-opencode-adapted-MLX-bf16 --port 8000 \
--chat-template-args '{"enable_thinking": false}'Подробнее
Размер модели (в исходном bf16): 55.6 ГБ (доступны квантованные версии на 4, 6 и 8 бит).Результаты на бенчмарках (на оригинальном адаптере): SWE-bench Pro (hard 51) вырос с 35.3% до 51.0%, Terminal-Bench 2.1 — с 46.4% до 52.4%.
Лицензия: Apache-2.0.










Комментарии