qwen3.5-2b-receipt-invoice-extract-lora
извлечение данных из чеков и счетов в JSON
2 мин чтенияобновлено
Эта модель представляет собой LoRA (небольшую надстройку над базовой моделью) для визуально-языковой Qwen/Qwen3.5-2B от автора zackyalgiffari. Она принимает фотографию или скан чека либо счёта-фактуры и преобразует всю информацию с картинки в единый структурированный объект JSON по схеме разметки датасетов Donut. В отличие от базовой модели, которая при работе без дообучения придумывает собственные названия полей и получает 0.000 по метрике Field F1, адаптер строго соблюдает заданную структуру и выводит 100% валидный JSON. Решение пригодится разработчикам, автоматизирующим бухгалтерию, учёт расходов и оцифровку первичных документов.
Ключевые особенности
- Строгая структура вывода: возвращает данные по схемам датасетов CORD (
menu[].nm,total.total_price) и invoices-donut-data-v1 (header,items[],summary). - Высокая точность по значениям: на тестовой выборке из 126 документов адаптер поднял метрику
Value F1с 0.462 до 0.916, аField F1— с 0.000 до 0.886. - Работа с двумя типами документов: режим переключения между чеком и счётом задаётся всего одним словом в системном промпте (
receiptилиinvoice). - Открытая лицензия: сам адаптер распространяется под лицензией Apache-2.0, как и базовая модель Qwen3.5-2B.
Что можно сделать
- Автоматизировать учёт чеков: встроить модель в пайплайн обработки фотографий из супермаркетов и кафе для быстрого разбора позиций и итоговых сумм.
- Оцифровывать счета на оплату: использовать для первичного парсинга инвойсов с автоматическим выделением шапки, списка товаров и итогов.
- Развернуть локальный сервис: объединить веса с базовой моделью через
merge_and_unload()из библиотекиpeftдля лёгкого инференса на одной видеокарте.
Пример
from peft import PeftModel
from transformers import AutoModelForImageTextToText, AutoProcessor
base = "Qwen/Qwen3.5-2B"
model = AutoModelForImageTextToText.from_pretrained(base, dtype="auto", device_map="auto")
model = PeftModel.from_pretrained(model, "zackyalgiffari/qwen3.5-2b-receipt-invoice-extract-lora").merge_and_unload()
processor = AutoProcessor.from_pretrained(base)
# В промпте передаётся: "Extract all fields from this receipt image. Respond with only a JSON object."
Подробнее
Метрики (100 чеков CORD и 26 счетов): валидный JSON — 100%, Field F1 — 0.886 (Lenient F1 — 0.921), полное совпадение документа (Exact match) — 38.9% (48.0% для чеков и 3.8% для счетов).Железо и обучение: обучалась 2.5 часа на одной NVIDIA L4 (24 ГБ) с пиковым потреблением 11.7 GiB VRAM на 800 чеках CORD v2 (индонезийский язык) и 425 счетах.
Ограничения: поддерживает только две жёсткие схемы ключей; возможны единичные ошибки или пропуски символов в длинных кодах (IBAN), названиях и суммах — числа требуют проверки.










Комментарии