TwIL-8B-pi

LoRA-адаптер от harness-hub для базовой модели webAI-Official/TwIL-8B (8B). Обучен с подкреплением под pi coding agent: агент читает задачу, запускает shell и Python, отвечает, а верификатор оценивает результат.

✨ Ключевые особенности

• ⚙ Обучение через AsyncGRPO из TRL: LoRA r=32, alpha=64, все линейные слои.
• 🎯 На 150 held-out задачах SmolDataEnvs (n=146) — 84.9% против 81.5% у базы (+3.4 ± 5.8 п.п.).
• ⚡ На задачах, которые решают обе модели, на 37% меньше вызовов инструментов (112 задач).
• 🧳 Заточен под harness pi; для vLLM есть конфиг с LoRA rank 32 и парсерами qwen3_coder/qwen3.
• 🔒 Некоммерческая лицензия webAI; вне pi ожидайте поведение базовой модели или хуже.

💻 Пример

vllm serve webAI-Official/TwIL-8B --enable-lora --max-lora-rank 32 --lora-modules twil-harbor-pi=harness-hub/TwIL-8B-pi --enable-auto-tool-choice --tool-call-parser qwen3_coder --reasoning-parser qwen3 --chat-template chat_template.jinja --max-model-len 131072

Подробнее

Бенчмарк: 84.9% vs 81.5% на 150 held-out задачах SmolDataEnvs (+3.4 ± 5.8 п.п.); на 40 задачах traj2envs (n=35) — 37.1% vs 31.4% (+5.7 ± 16.0).
Эффективность: −37% tool calls на 112 общих решённых задачах; шаг 90 из 100 выбран по той же eval, поэтому прирост оптимистичен.
Ограничения: малая eval (±5.8 п.п.), только анализ данных и harness pi; GGUF-версия не переоценена; лицензия некоммерческая.
Обучение: 4× NVIDIA H200, 8 rollout на задачу, до 30 вызовов модели и 1200 с на rollout.