LFM2.5-24B-A2B · Harbor · pi

Это LoRA-адаптер для LiquidAI/LFM2.5-24B-A2B от harness-hub. Обучен с подкреплением через AsyncGRPO в TRL как модель для кодинг-агента pi на задачах анализа данных: каждый rollout — полная сессия pi в удалённом sandbox с shell и Python.

💻 Ключевые особенности

• 📌 LoRA r=32, alpha=64, все linear-слои; обучение — AsyncGRPO (TRL, experimental).
• ➡️ Решает задачи примерно так же часто, как базовая модель, но тратит на 39% меньше tool calls на задачах, решённых обеими.
• 🤖 Обучен и оценён внутри harness pi; для vLLM нужен --tool-call-parser lfm2.
• 💰 Подходит, если нужен более дешёвый и быстрый агент при сопоставимой точности.
• 💿 Есть GGUF-версия адаптера для llama.cpp, но она не переоценивалась.

🧃 Пример

vllm serve LiquidAI/LFM2.5-24B-A2B \
    --enable-lora --max-lora-rank 32 \
    --lora-modules lfm-harbor-pi=harness-hub/LFM2.5-24B-A2B-harbor-pi-lora \
    --enable-auto-tool-choice --tool-call-parser lfm2 --reasoning-parser qwen3 \
    --max-model-len 131072

Подробнее

⏳ Подробнее
Оценка: pass@1 −4.2 пункта — в пределах шума ±5 на 100 задачах; tool calls −39% на задачах, решённых обеими моделями.
Обучение: 100 шагов, lr 1e-5, 1× NVIDIA B300, первые 1000 задач SmolDataEnvs-harbor-train.
Ограничения: маленькая оценка, только семейство задач анализа данных SmolDataEnvs и только harness pi; с другим агентом поведение может быть как у базовой модели или хуже.
GGUF-версия не переоценивалась.