Qwen3.8-27B-pi-adapted
LoRA-адаптер для кодинг-агентов
2 мин чтенияобновлено
Этот адаптер (небольшая надстройка над базовой моделью) обучен с помощью reinforcement learning (обучения с подкреплением) для работы в качестве «мозга» кодинг-агента pi на задачах программной инженерии и работы с терминалом. Модель значительно повышает точность решения сложных инженерных задач, выдавая результаты, сопоставимые с максимальным режимом рассуждений базовой модели, но с генерацией в 4.5 раза меньшего количества токенов. Разработка будет полезна разработчикам и исследователям, использующим локальные LLM для автоматизации кодинга и терминальных задач.
Ключевые особенности
- Высокая точность: прирост показателей на SWE-bench Pro и Terminal-Bench 2.1 по сравнению с базовой моделью.
- Экономия токенов: достигает уровня точности тяжелого режима рассуждений базовой модели без включения специального режима thinking.
- Меньше шагов: требует вдвое меньше итераций (turns) для решения аналогичных задач.
- Готовность к инженерии: оптимизирована специально под агентские инструменты и вызовы терминала.
Что можно сделать
- Запустить кодинг-агент: подключить модель через vLLM или transformers serve для работы с локальным агентом pi.
- Исправлять баги: автоматизировать поиск и исправление ошибок в репозиториях кода через терминальные туры.
- Тестировать бенчмарки: запускать оценку качества на SWE-bench Pro или Terminal-Bench 2.1.
- Использовать GGUF: запустить квантованную версию адаптера локально с помощью llama.cpp или Llama.app на macOS.
Пример
vllm serve Qwen/Qwen3.8-27B \
--enable-lora --max-lora-rank 32 \
--lora-modules qwen3.8-pi=harness-hub/Qwen3.8-27B-pi-adapted \
--language-model-only --enable-prefix-caching --mamba-cache-mode align \
--enable-auto-tool-choice --tool-call-parser qwen3_xml --reasoning-parser qwen3 \
--default-chat-template-kwargs '{"enable_thinking": false}' \
--max-model-len 131072Подробнее
• SWE-bench Pro (hard 51): точность выросла с 39.2% до 64.7%.• Terminal-Bench 2.1: точность увеличилась с 39.5% до 55.8%.
• Обучение: адаптер использует ранг LoRA 32 и обучался на траекториях агента pi.
• Ограничения: рекомендуется использовать при отключенном режиме рассуждения (`enable_thinking: false`).










Комментарии