Qwen3-1.7B-Distillation-Coding
кодинг-агент на базе Qwen3
2 мин чтенияобновлено
Модель представляет собой дистиллированную версию Qwen3-1.7B, обученную на основе более крупного учителя Qwen3-8B с помощью библиотеки TRL и среды OpenEnv. Модель выступает в роли автономного агента для написания кода: она выполняет задачи из бенчмарка MBPP, используя инструмент run_python в интерактивной сессии. Агент пошагово пишет код, выполняет его, анализирует ошибки и правит их прямо в интерпретаторе, после чего сдает готовое решение. Модель подходит разработчикам и исследователям, изучающим он-полиси дистилляцию агентов и использование инструментов в LLM.
Ключевые особенности
- On-policy дистилляция: обучение студента на распределении токенов учителя по собственным сгенерированным эпизодам.
- Работа с интерпретатором: встроенный инструмент
run_pythonпозволяет сохранять состояние сессии между вызовами. - Рост точности: на тесте MBPP модель успешно проходит 51.4% тест-кейсов, улучшая результат базовой модели (43.6%).
- Эффективность: компактный размер в 1.7B параметров при повышенной эффективности решения кодинг-задач.
Что можно сделать
- Автоматизация написания кода: запускать модель для генерации и пошаговой отладки небольших Python-функций.
- Тестирование агентных систем: использовать репозиторий TRL для воспроизведения процесса on-policy дистилляции на собственных задачах.
- Интеграция в пайплайны: применять модель в связке с окружением OpenEnv для безопасного выполнения сгенерированного кода в песочнице.
Пример
from transformers import AutoModelForCausalLM, AutoTokenizer
def run_python(code: str) -> str:
"""Run Python code in the session and return its output."""
model_id = "sergiopaniego/Qwen3-1.7B-Distillation-Coding"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, dtype="auto", device_map="auto")
prompt = "Write a Python function to find the minimum of two numbers."
inputs = tokenizer.apply_chat_template(
[{"role": "user", "content": prompt}],
tools=[run_python],
enable_thinking=False,
add_generation_prompt=True,
return_tensors="pt",
return_dict=True,
).to(model.device)
output = model.generate(**inputs, max_new_tokens=512, do_sample=True, temperature=0.7, top_p=0.8, top_k=20)
print(tokenizer.decode(output[0][inputs["input_ids"].shape[1] :]))Подробнее
Бенчмарки: 51.4% пройденных тест-кейсов на MBPP (против 43.6% у базовой модели Qwen3-1.7B и 68.2% у учителя Qwen3-8B).Обучение: 100 шагов на датасете MBPP с использованием железа 1x A100 80GB примерно за 80 минут.
Ограничения: модель обучена исключительно на коротких Python-задачах в стиле MBPP и не является универсальным ассистентом общего назначения.










Комментарии