LFM2.5-350M-SmolDataAgent

Это 350M-параметровая модель, дообученная от LiquidAI/LFM2.5-350M. Получив вопрос и песочницу с файлами CSV, Parquet, SQLite, HDF5 и другими, она работает через единственный инструмент bash: исследует файлы, запускает Python и записывает финальный ответ в /workdir/answer.txt. Обучение шло на задачах SmolDataEnvs.

⚡ Ключевые особенности

• 🧩 Всего 350M параметров — компактный агент для data-analysis задач.
• ⚙️ Один инструмент bash: каждый вызов — свежий non-stateful bash -c, ответ читается из /workdir/answer.txt.
• 🏆 На SmolDataEnvs test pass@1 — 21%, pass@2 — 26%, pass@4 — 30%; у базовой LFM2.5-350M все 0%.
• 📀 Обучена на 2 833 траекториях из LFM2.5-2.6B и Claude Haiku 5.5, очищенных и синтетически дополненных.
• 🩻 LoRA r=16, alpha=32, затем merged в 16-bit; для запуска рекомендуются vLLM и parser lfm2.

💡 Пример

vllm serve lugman/LFM2.5-350M-SmolDataAgent --enable-auto-tool-choice --tool-call-parser lfm2

В запросе нужно передать инструмент bash и исполнять его вызовы в sandbox. Эпизод завершается, когда модель отвечает без tool call.

Подробнее

Бенчмарк: 250 задач, 4 попытки на задачу, temperature 0.1, до 12 ходов. По сложности pass@1: easy — 56%, medium — 16%, hard — 15%.
Обучение: lr 4e-4, 3 эпохи, effective batch size 16, max sequence length 16 384; loss на всех assistant turns.
Язык карточки — английский, обучение заточено под SmolDataEnvs; требования к VRAM не указаны.