Efficient Healer
LoRA-адаптер для финансового агента на базе Tiny Aya
2 min readupdated
Адаптер формата LoRA (небольшая надстройка над базовой моделью, ранг r=16) от автора Purusharth для модели CohereLabs/tiny-aya-global. Он превращает компактную языковую модель в агента, способного вызывать внешние инструменты (tool-calling) и отвечать на вопросы по финансовым таблицам компаний из бенчмарка FinQA. Обучение проходило в два раунда с циклом самоисправления на базе фреймворка AgentTune: модель училась на собственных самых коротких успешных траекториях и подсказках от модели-учителя (nvidia/Qwen3.6-35B-A3B-NVFP4). По сравнению с базовой Tiny Aya, которая решала лишь 0,5% тестовых прогонов, финальный адаптер справляется с 30,4% задач. Подойдёт разработчикам, исследующим обучение компактных агентов и дистилляцию навыков работы с табличными данными.
Ключевые особенности
- Рост точности с 0,5% до 30,4%: на 400 отложенных задачах из 55 новых компаний доля решённых прогонов (в мягком режиме проверки) выросла на 29,9 процентных пункта, а в строгом — с 0,3% до 17,6%.
- Меньше лишних действий и токенов: во втором раунде доля избыточных вызовов инструментов снизилась с 0,108 до 0,069 (по оценке AuditKIT), а средний размер ответа сократился до 215 токенов.
- Обучение только на ходах агента: при расчёте функции потерь учитывались только реплики самого агента — попытка считать loss по всем токенам дала лишь 2% успеха и сохранена в репозитории как отрицательный пример.
- Несколько версий в репозитории: в корне лежит финальный одобренный адаптер (
round2/), а в подпапках доступны промежуточныйround1/и неудачный экспериментnegative_all_token_loss/.
Что можно сделать
- Развернуть агентский пайплайн в связке с vLLM: смержить адаптер с базовой моделью
CohereLabs/tiny-aya-global, поднять локальный сервер на vLLM и запускать запросы к таблицам через цикл AgentTune. - Использовать как эталон для обучения компактных агентов: изучить открытые траектории, разметку ошибок и логи оценки из связанного датасета
Purusharth/efficient-healer-trajectoriesдля собственных экспериментов с tool-calling.
Пример
hf download Purusharth/tiny-aya-efficient-healer-lora --local-dir adapter
python -m selfheal.merge --adapter adapter --out merged
vllm serve merged --served-model-name student --port 8000 --max-model-len 8192 --dtype bfloat16
python -m selfheal.rollout --tasks splits.json --split eval --k 3 --stop --model-path merged --served-model student --out eval.jsonlПодробнее
Метрики (400 задач × 3 прогона): 365 из 1200 успешных прогонов (30,4%), 187 из 400 задач решены хотя бы в 1 прогоне, среднее время прогона — 5,5 сек.Обучение: LoRA r=16, α=32, dropout 0.05 на слоях q_proj, k_proj, v_proj, o_proj; 3 эпохи, lr 2e-4 (cosine), batch 16, bf16, контекст до ~4300 токенов.
Ограничения: исследовательский артефакт (около 70% прогонов всё ещё завершаются ошибкой, не для реальных финрешений); протестирован только на английских вопросах формата FinQA.
Лицензия: CC-BY-NC-4.0 (только некоммерческое использование, наследуется от базовой модели).










Comments