FilingFigures v2 Qwen3.5-4B GRPO
LoRA для извлечения финансовых цифр из 10-K
1 min readupdated
Это LoRA-адаптер к Qwen3.5-4B, обученный методом GRPO возвращать двенадцать финансовых показателей из отчёта 10-K в JSON. Автор — kyryk. Модель училась только по награде за совпадение с XBRL-ключом, без показа правильных ответов. Язык — английский.
Ключевые особенности
- Читает 10-K и выдаёт 12 финансовых цифр в JSON.
- Обучение GRPO: reward — доля верных цифр по правилам теста; сломанный ответ даёт 0.
- На mid-cap тесте 98,2% против 86,2% у базовой Qwen3.5-4B; на S&P 500 — 98,4% против 95,4%.
- Это RL-половина сравнения: SFT-адаптер на ответах чуть лучше — 99,0% на mid-cap.
- Обучение заняло 2,4 часа на одной H100; чекпоинт — шаг 48 из 72.
Пример
git clone https://github.com/nathankyryk/filing-figures && cd filing-figures
uv sync --extra train
uv run hf download kyryk/filing-figures-v2-qwen3.5-4b-grpo-lora --local-dir adapter/
uv run figures merge --adapter adapter/ --out merged/
vllm serve merged/ --max-model-len 12288 --language-model-only \
--default-chat-template-kwargs '{"enable_thinking": false}'
Подробнее
Mid-cap: 98,2% (119 отчётов), S&P 500: 98,4% (207 отчётов).Железо: одна H100, 2,4 часа; rank 32, alpha 64, lr 1e-5.
Ограничение: обучение на нефинансовых 10-K S&P 500 2019–2024; на конвенциональных цифрах слабее SFT — например, prior-year revenue 95,8% против 98,3%.










Comments