Qwen3.8-27B-opencode-MLX-adapter
адаптер для ускорения кодинга на Apple Silicon
1 мин чтения
Этот LoRA-адаптер (небольшая надстройка над базовой моделью) переносит модель Qwen/Qwen3.8-27B в формат библиотеки mlx-lm для работы на чипах Apple Silicon. Модель обучена с помощью алгоритма подкрепленного обучения AsyncGRPO для специализированных задач программной инженерии и работы с терминалом в агенте OpenCode. Она позволяет эффективно решать задачи программирования без лишней генерации рассуждений, выдавая результат быстрее и точнее. Адаптер пригодится разработчикам, использующим локальные модели на Mac для написания и отладки кода.
Ключевые особенности
- Специализация на решении задач по программированию и работе с терминалом.
- Обучение методом AsyncGRPO в составе фреймворка TRL.
- Формат mlx-lm с рангом 32 и масштабом 2.0 для интеграции в экосистему MLX.
- Компактный размер весов адаптера — всего 638 МБ.
Что можно сделать
- Подключить адаптер к базовой или квантованной модели Qwen3.8-27B для локальной генерации кода.
- Использовать модель в качестве движка для агента OpenCode на компьютере Mac.
- Запустить локальный сервер через mlx_lm.server для обработки запросов по API.
Пример
pip install -U "mlx-lm>=0.32.2"
mlx_lm.generate --model mlx-community/Qwen3.8-27B-4bit --adapter-path netprojects/Qwen3.8-27B-opencode-MLX-adapter \
--chat-template-config '{"enable_thinking": false}' --prompt "Write a bash one-liner that counts lines in all .py files." --max-tokens 300Подробнее
• SWE-bench Pro (hard 51): улучшение с 35.3% до 51.0%• Terminal-Bench 2.1: улучшение с 46.4% до 52.4%
• Лицензия: Apache-2.0
• Требования: совместимая сборка mlx-lm и базовая модель Qwen3.8-27B










Комментарии