Qwen3.8-27B-super-adapter GGUF
единая локальная модель для трёх кодинг-агентов
2 мин чтенияобновлено
Команда NetProjects объединила адаптер harness-hub/Qwen3.8-27B-super-adapter с базовой моделью Qwen3.8-27B (27 млрд параметров) и сконвертировала результат в готовый формат GGUF для запуска через llama.cpp без отдельной подгрузки LoRA (небольшой надстройки над базовой моделью). Исходный супер-адаптер объединяет веса трёх специализированных RL-моделей для кодинг-агентов pi, Hermes Agent и OpenCode. Сборка сохраняет слой MTP (multi-token prediction — предсказание нескольких токенов за шаг для ускорения генерации) и поддерживает работу с изображениями через отдельный файл проектора. Модель подойдёт разработчикам, которые хотят локально запускать автономных агентов для написания кода и работы в терминале.
Ключевые особенности
- Склейка трёх агентских специализаций: одна модель закрывает сценарии сразу для pi, Hermes Agent и OpenCode, сокращая количество вызовов инструментов на 19–48% в режиме рассуждений (thinking on).
- Ускорение через MTP: встроенный слой multi-token prediction при включении флага
--spec-type draft-mtpускоряет генерацию на квантовании Q4_K_M с 28.4 до 51.5 токенов/с (в 1.82 раза) на MacBook Pro M5 Max. - Поддержка изображений: файл
mmproj-Qwen3.8-27B-super-adapter-F16.gguf(0.9 GB) добавляет визуальный ввод для анализа скриншотов и интерфейсов. - Три варианта квантования: доступны сборки Q8_0 (29.0 GB), рекомендованный баланс Q6_K (22.4 GB) и компактный Q4_K_M (16.8 GB).
Что можно сделать
- Подключить к OpenCode или pi: развернуть локальный OpenAI-совместимый API через
llama-serverи использовать модель для решения задач уровня SWE-bench Pro в репозиториях. - Автоматизировать задачи в терминале через Hermes Agent: настроить контекст от 64 000 токенов для выполнения цепочек команд bash и работы с файлами.
- Запускать с визуальным контекстом: подключить mmproj-файл, чтобы агент мог опираться на изображения при генерации кода и отладке.
Пример
hf download netprojects/Qwen3.8-27B-super-adapter-GGUF Qwen3.8-27B-super-adapter-Q6_K.gguf mmproj-Qwen3.8-27B-super-adapter-F16.gguf --local-dir .
llama-server -m Qwen3.8-27B-super-adapter-Q6_K.gguf -mm mmproj-Qwen3.8-27B-super-adapter-F16.gguf \
--jinja --spec-type draft-mtp -c 131072 --port 8000 --alias qwen3.8-super
Подробнее
Бенчмарки (thinking on): средний pass@1 на SWE-bench Pro и Terminal-Bench 2.1 вырос с 55.5% до 63.5% относительно базовой Qwen3.8-27B (в OpenCode на SWE-bench Pro — с 47.1% до 66.7%, в Hermes Agent — с 45.1% до 60.8%).Точность квантования (совпадение следующего токена с BF16): Q8_0 — 99.7% (KL 0.0003), Q6_K — 98.9% (KL 0.0032), Q4_K_M — 94.6% (KL 0.0800).
Требования и контекст: от 16.8 GB до 29.0 GB под веса (плюс 0.9 GB на vision projector); для Hermes Agent требуется окно контекста минимум 64 000 токенов.
Лицензия: Apache-2.0.










Комментарии