PURSE splitter (Qwen3.5 9B)

PURSE splitter — исследовательский файнтюн Qwen/Qwen3.5-9B (9,41 млрд параметров) от guineapig. Он читает описание проекта с бюджетом, вариантами моделей/агентов и таблицей успешности, а затем возвращает JSON: какую опцию выбрать для каждой задачи или пропустить её. Это не общий ассистент, а LoRA-копия разбивки knapsack-солвера из бенчмарка PURSE (HASHIRU).

📝 Ключевые особенности

• 📝 Отвечает только JSON-объектом: для каждой из 8 задач — модель, внешний агент или skip.
• 🤔 Запуск с выключенным thinking и temperature 0, как при обучении.
• 👍 Обучена на 3000 промптах PURSE; цель — копировать разбивку knapsack-солвера.
• 📝 LoRA rank 16, alpha 32, dropout 0.05; обучение на одной H100 80GB около 33 минут.
• 😐 Работает в одном рынке: шесть опций, четыре семейства задач, уровни 1–5.

😎 Пример

from openai import OpenAI
client = OpenAI(base_url="http://127.0.0.1:8000/v1", api_key="none")
reply = client.chat.completions.create(
    model="guineapig/purse-splitter-qwen3.5-9b",
    messages=[{"role": "user", "content": prompt}],
    temperature=0, max_tokens=512,
    extra_body={"chat_template_kwargs": {"enable_thinking": False}},
)
split = reply.choices[0].message.content

Подробнее

Оценка на 20 новых проектах: 0.663 / 0.750 / 0.820 / 0.879 при τ 0.25 / 0.5 / 1 / 2; knapsack-солвер — 0.715 / 0.788 / 0.842 / 0.902.
Merged-чекпоинт в bfloat16 — около 18.8 GB, адаптер — около 112 MB. Обучение заняло ~33 минуты на одной H100 80GB.
Ограничения: только шесть опций, четыре семейства задач и восемь задач на проект; при других ценах/опциях, вероятно, нужен новый трейнинг.