qwen2.5-1.5b-aspectos-ecommerce-ptbr-qlora
аспектный сентимент для отзывов e-commerce
1 min read
QLoRA-адаптер (LoRA r=16 поверх 4-bit NF4) к Qwen/Qwen2.5-1.5B-Instruct. Разбирает отзывы бразильского e-commerce на португальском и возвращает JSON с тональностью по аспектам produto, entrega и atendimento: положительно, отрицательно, нейтрально или аспект не упомянут.
Ключевые особенности
- Адаптер PEFT: r=16, alpha=32, dropout=0.05, все линейные проекции.
- База квантована в 4-bit NF4 с double quant и fp16 compute.
- Обучение на отзывах Olist; train/val — silver-разметка от Qwen2.5-7B, тест — 300 вручную проверенных примеров.
- Строгий формат ответа: только JSON с тремя аспектами.
- Для работы нужен тот же system prompt, что использовался при обучении.
Пример
from peft import PeftModel
from transformers import AutoModelForCausalLM, BitsAndBytesConfig
base = "Qwen/Qwen2.5-1.5B-Instruct"
bnb = BitsAndBytesConfig(load_in_4bit=True, bnb_4bit_quant_type="nf4")
model = AutoModelForCausalLM.from_pretrained(base, quantization_config=bnb, device_map="auto")
model = PeftModel.from_pretrained(model, "thiag8ito/qwen2.5-1.5b-aspectos-ecommerce-ptbr-qlora")
# подайте тот же system prompt, что при обучении, и вызовите generate()
Подробнее
На gold-тесте exact_match — 0.733 против 0.267 у zero-shot Qwen2.5-1.5B и 0.487 у TF-IDF + LogReg.Средний macro-F1 — 0.691; валидный JSON — 1.0.
Обучение шло на бесплатной GPU T4 (Colab).
Ограничения: домен Olist 2016–2018, silver-метки, слабые места — сарказм и смешанные отзывы; для доставки еды нужен дообученный набор.










Comments