qwen2.5-1.5b-sroie-qlora
адаптер для извлечения данных из чеков
2 мин чтения
Этот QLoRA (небольшая надстройка над базовой моделью для точечной доработки) адаптер превращает базовую модель Qwen/Qwen2.5-1.5B-Instruct в узкоспециализированный инструмент для парсинга сканированных чеков. На вход подается уже распознанный текст чека (OCR), а на выходе модель возвращает структурированный JSON-объект с ключевыми полями. Решение создано для разработчиков, которым нужно автоматизировать обработку первичной бухгалтерской документации или оцифровку покупок.
Ключевые особенности
- Эффективная база: Использует компактную и быщую Qwen2.5-1.5B-Instruct, дообученную методом QLoRA (квантование в 4 бита).
- Структурированный вывод: Извлекает четыре строго определенных поля: название компании, дату, полный адрес и итоговую сумму.
- Низкие системные требования: Обучался и работает на потребительской видеокарте с 8 GB VRAM.
- Открытая лицензия: Распространяется под лицензией Apache 2.0, аналогичной базовой модели.
Что можно сделать
- Интеграция в пайплайн: Подключить адаптер после OCR-модуля в приложении для учета расходов или сканирования чеков.
- Автоматизация бухгалтерии: Использовать в Telegram-боте для быстрого перевода бумажных чеков в структурированный JSON.
- Тестирование извлечения: Проверить точность выделения данных на англоязычных чеках в среде Python с использованием библиотеки peft.
Пример
import json
import torch
from peft import PeftModel
from transformers import AutoModelForCausalLM, AutoTokenizer, BitsAndBytesConfig
BASE = "Qwen/Qwen2.5-1.5B-Instruct"
ADAPTER = "titouhiomar/qwen2.5-1.5b-sroie-qlora"
tok = AutoTokenizer.from_pretrained(ADAPTER)
model = AutoModelForCausalLM.from_pretrained(
BASE,
quantization_config=BitsAndBytesConfig(load_in_4bit=True, bnb_4bit_quant_type="nf4",
bnb_4bit_compute_dtype=torch.bfloat16),
device_map="auto",
)
model = PeftModel.from_pretrained(model, ADAPTER).eval()Подробнее
• Датасет: ICDAR 2019 SROIE (551 тренировочный и 75 валидационных чеков).• Параметры LoRA: r = 16, alpha = 32, dropout = 0.05 на слоях q/k/v/o_proj и gate/up/down_proj.
• Железо и ресурсы: NVIDIA RTX 5060 Laptop (8 GB), пиковое потребление VRAM 4.8 GB, время обучения около 30 минут.
• Ограничения: обучено на англоязычных малайзийских чеках; модель работает только с готовым OCR-текстом и не умеет читать картинки напрямую.










Комментарии