wayfinder-qwen-eff
эффективный агент для поиска кода на базе Qwen
2 мин чтения
Модель создана на основе Qwen3.6-35B-A3B (35 миллиардов параметров, 3 миллиарда активных на токен) и обучена решать задачи поиска нужных файлов в кодовой базе. После контролируемого дообучения (Supervised Fine-Tuning) авторы провели 10 шагов обучения с подкреплением (Reinforcement Learning), поощряя модель находить правильные файлы с минимальными затратами. На выходе получается агент, который тратит примерно в два раза меньше токенов и шагов поиска, чем базовая версия, сохраняя ту же точность (Recall). Модель пригодится разработчикам и инженерам, которые автоматизируют работу с большими репозиториями и хотят снизить затраты на запросы к LLM.
Ключевые особенности
- Сохраняет точность (Recall@12) на уровне 0.743 на сложных длинных запросах при сокращении токенов вдвое.
- Сокращает количество шагов поиска в среднем на 2.6 за сессию.
- Обучена с использованием комбинированной награды за точность и экономичность.
- Веса поставляются в формате bf16 safetensors со стандартными токенизатором и шаблоном чата исходной модели.
Что можно сделать
- Применить агента в задачах автоматического поиска файлов и навигации по крупным кодовым базам.
- Настроить эффективную работу с длинными текстовыми заданиями и техническими описаниями от 120 слов.
- Интегрировать модель в пайплайны разработки для снижения затрат на токены при поиске информации.
Пример
Модель используется как поисковый субагент для работы с кодовой базой. Для достижения наилучших результатов рекомендуется подавать подробные длинные описания задач ( briefs ), так как на коротких однострочных запросах модель теряет в точности.
Подробнее
• Метрики: Recall@12 равен 0.743, в среднем 5.3 шага и 106k токенов за поиск против 7.9 шагов и 213k у базовой версии.• Обучение: LoRA (ранг 64) на первом этапе и 10 шагов RL на пуле из 1,046 задач.
• Ограничения: на коротких однострочных запросах эффективность падает; требуется использование длинных описаний.
• Лицензия: производная модель по лицензии Muse Model License с обязательным сохранением атрибуции.










Комментарии