qwen3-0.6b-support-ticket-triage-lora
сортировка тикетов поддержки в JSON
2 min readupdated
Компактный LoRA-адаптер (небольшая надстройка над базовой моделью) от автора ShwethaJ, обученный превращать короткие англоязычные обращения в техподдержку в структурированный JSON. Адаптер ставится поверх легкой языковой модели Qwen/Qwen3-0.6B и по тексту тикета определяет категорию проблемы, затронутое окружение, краткое описание влияния на пользователя и подходящую команду поддержки. В отличие от базовой модели, которая часто ошибается в формате ответа и классификации, дообученная версия почти всегда выдает валидную структуру. Подойдет разработчикам для прототипирования систем первичной маршрутизации заявок на скромном железе или даже на CPU.
Ключевые особенности
- Строгий формат вывода: формирует JSON с четырьмя полями (
category,environment,customer_reported_impactиsuggested_team). - Высокая стабильность схемы: доля валидных по структуре ответов выросла с 53,0% у базовой модели до 98,5% после дообучения.
- Компактный размер: обучаемая часть занимает всего около 4,59 млн параметров (0,76% от общего веса связки с базой 0.6B).
- Открытая лицензия: и базовая модель, и сам адаптер распространяются под Apache 2.0.
Что можно сделать
- Автоматическая маршрутизация заявок: подключить к форме обратной связи на английском языке, чтобы распределять тикеты между
developer_support,billing_supportиgeneral_support. - Извлечение контекста инцидента: автоматически определять, где возникла проблема (
production,stagingилиdevelopment), и фиксировать суть сбоя для оператора. - Локальный пайплайн без мощных GPU: развернуть через
transformersиpeftна обычном сервере или CPU в качестве легкого фильтра перед ручной проверкой.
Пример
from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel
base = AutoModelForCausalLM.from_pretrained("Qwen/Qwen3-0.6B")
model = PeftModel.from_pretrained(base, "ShwethaJ/qwen3-0.6b-support-ticket-triage-lora").eval()
tokenizer = AutoTokenizer.from_pretrained("ShwethaJ/qwen3-0.6b-support-ticket-triage-lora")
# Вход: "Our production dashboard rejects sign-in with a 401 error."
# Выход: JSON с category="authentication", environment="production"
Подробнее
Тестирование (66 синтетических тикетов): macro-F1 по категориям вырос с 0.471 до 0.881, точность определения окружения — с 34,8% до 90,9%.Обучение: LoRA (rank 16, alpha 32) на 128 примерах в Google Colab (Tesla T4), макс. длина последовательности — 512 токенов.
Ограничения: поддерживает только короткие тикеты на английском языке; это исследовательский пилот, ответы требуют проверки человеком и валидации JSON в коде.










Comments