Fine-tuning-model-on-finance-domain
LoRA-адаптер для банковских API-инструментов
2 мин чтенияобновлено
Адаптер от автора arfeen2006 учит компактную языковую модель Qwen2.5-1.5B-Instruct вызывать финансовые и банковские инструменты, возвращая валидный JSON для API. Модель построена на базе Qwen/Qwen2.5-1.5B-Instruct с помощью LoRA (небольшой надстройки поверх весов основной модели) и дополнительно выровнена методом DPO (обучение на предпочтениях для снижения числа ошибок). По сравнению с базовой версией она гораздо точнее подбирает нужную функцию, извлекает аргументы и отклоняет нецелевые запросы, защищаясь от галлюцинаций и подмены параметров. Решение пригодится разработчикам финтех-ботов и локальных ИИ-агентов, которым нужна лёгкая модель с предсказуемым структурированным выводом.
Ключевые особенности
- Двухэтапное обучение: SFT (обучение с учителем через LoRA) в связке с DPO для защиты от галлюцинаций и инъекций параметров.
- 100% валидность JSON-схемы и 100% отказ на запросы вне финансового домена в тестах автора.
- Точность выбора нужного инструмента выросла с 42.0% у базовой модели до 98.0%.
- Лёгкая основа Qwen2.5-1.5B-Instruct, подключаемая через библиотеку PEFT без замены всей модели.
Что можно сделать
- Встроить в банковского ассистента для преобразования пользовательских команд вроде перевода средств между счетами в строгие JSON-вызовы API.
- Использовать как локальный роутер функций в финансовых сервисах, где важно отсекать непрофильные запросы пользователей.
Пример
from peft import PeftModel
from transformers import AutoModelForCausalLM, AutoTokenizer
base_id = "Qwen/Qwen2.5-1.5B-Instruct"
tokenizer = AutoTokenizer.from_pretrained(base_id)
base = AutoModelForCausalLM.from_pretrained(base_id, device_map="auto")
model = PeftModel.from_pretrained(base, "arfeen2006/Fine-tuning-model-on-finance-domain")
# На запрос о переводе средств модель возвращает сырой JSON для вызова инструментаПодробнее
Tool Selection Accuracy: 98.0% против 42.0% у zero-shot базы (94.0% после SFT LoRA).JSON Schema Validity: 100.0% против 68.0% у базы.
Argument Extraction Precision: 96.5% против 54.0% у базы.
Out-of-Domain Refusal Rate: 100.0% против 20.0% у базы.
Язык: английский (en); требования к VRAM в карточке не указаны.










Комментарии