Qwen3.5-9B SWE-GRPO
модель для задач программирования
1 мин чтенияобновлено
Эта модель представляет собой версию базовой Qwen/Qwen3.5-9B (9.65 млрд параметров), дообученную с помощью алгоритма GRPO (метод обучения с подкреплением на основе групповых относительных преимуществ) в качестве агента для программной инженерии. Модель обучена на 1000 задач из датасета swe-rl-curated-1k с использованием наград на основе выполнения тестов в песочнице. Она эффективнее справляется с редактированием кода, решением багов и уменьшает количество ошибок форматирования вывода по сравнению с базовой версией. Подойдет разработчикам и исследователям, занимающимся созданием автономных ИИ-агентов для написания и отладки кода.
Ключевые особенности
- Обучена на 1000 задач с исполняемыми наградами по тестам
- Рост процента решения задач на тренировочном наборе с 18% до ~70%
- Улучшение результатов на SWE-bench Verified (до 60.6% на подмножестве задач)
- Значительное сокращение синтаксических ошибок и неверных вызовов инструментов
Что можно сделать
- Интегрировать модель в агентный контур для автоматического исправления багов в репозиториях
- Использовать в пайплайнах автоматизированного тестирования и разработки на Python
- Применять для автономного выполнения задач программирования по текстовому описанию
Пример
from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained("mliu444/qwen3.5-9b-swe-grpo", revision="iter59", dtype="auto")
tokenizer = AutoTokenizer.from_pretrained("mliu444/qwen3.5-9b-swe-grpo", revision="iter59")
Подробнее
Бенчмарки: 60.6% на 500 задачах SWE-bench Verified (шаг 59)Обучение: GRPO, константный learning rate 1e-6, Megatron trainer
Ограничения: обучена на 1000 Python-репозиториях, оценена только в рамках конкретного окружения агента










Комментарии