mujeebk/ap-env-sft-v2
файнтюн Qwen3-4B для проверки счетов
2 min read
Модель представляет собой версию Qwen3-4B-Instruct-2507, прошедшую SFT (обучение с учителем на примерах) для работы в среде расследования квитанций и счетов кредиторской задолженности (Accounts Payable). В отличие от отдельного адаптера, здесь LoRA (небольшая надстройка над базовой моделью) SFT-v2 уже вшита в основные веса в формате bf16, образуя полноценный чекпоинт на 4,02 млрд параметров. Чекпоинт выпущен автором mujeebk в рамках исследования о дообучении компактных языковых моделей при неполных данных и служит базой для последующих RL-этапов, таких как RFT и GRPO. Подойдёт исследователям и разработчикам агентных систем, которым нужна компактная база для работы с финансовыми документами и дальнейшего дообучения.
Ключевые особенности
- Основана на Qwen3-4B-Instruct-2507 (4,02 млрд параметров) с полностью объединёнными весами в формате bf16.
- Показала результат 185 из 200 пройденных тестовых кейсов в основной оценке из статьи.
- Выступает базовой точкой для запуска RFT и GRPO-адаптеров (например,
mujeebk/ap-env-grpo-seed1-adapter). - Лицензия Apache-2.0, контрольные суммы файлов проверены по логам экспериментов.
Что можно сделать
- Использовать в качестве базового чекпоинта в связке с vLLM для подключения совместимых LoRA-адаптеров из этого же исследования.
- Воспроизвести эксперименты по постобучению компактных LLM в среде расследования финансовых квитанций из репозитория автора.
- Применить как компактную языковую модель в пайплайнах анализа и сверки данных кредиторской задолженности.
Пример
from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained("mujeebk/ap-env-sft-v2", torch_dtype="bfloat16")
tokenizer = AutoTokenizer.from_pretrained("mujeebk/ap-env-sft-v2")
Подробнее
Оценка: 185 из 200 тестовых случаев в основном бенчмарке статьи.Формат и архитектура: полный чекпоинт Qwen3ForCausalLM в bf16 (не адаптер).
Стек обучения и запуска: torch 2.13.0, transformers 5.20.2, PEFT 0.21.2, TRL 1.16.0, vLLM 0.30.0 (для адаптеров использовались enable_lora=True и max_lora_rank=32).
Ограничение: целостность файлов проверена по хешам, но загрузка непосредственно из этого репозитория автором отдельно не тестировалась.










Comments