Qwen3.5-4B Decision Sentiment
классификатор отзывов с выбором из трёх меток
1 min read
Модель от elisaterumi-ai на базе Qwen3.5-4B для классификации английских отзывов: negative, neutral или positive. Вместо генерации длинного ответа она делает структурированный выбор из заранее заданных вариантов. Это учебный независимый эксперимент, не оригинальная Jev-модель; обучение выполнено через Unsloth, LoRA и Decision Head.
Ключевые особенности
- База Qwen3.5-4B, 4-битная загрузка, LoRA rank/alpha 16 и Decision Head.
- Три класса: negative, neutral, positive.
- Датасет Yelp Review Full: до 3 000 отзывов, по 1 000 на класс; метки по звёздам 1–2, 3, 4–5.
- Стратифицированный сплит 80/10/10: 2 400 / 300 / 300.
- Оценка до и после fine-tuning на held-out из тренировочного сплита Yelp, это не официальный бенчмарк.
Пример
{
'state': 'Great food and friendly staff!',
'questions': {'sentiment': {'type': 'choice'}},
'gold': {'sentiment': 'positive'}
}
Подробнее
Accuracy 0.8033, Macro-F1 0.8055 на held-out после fine-tuning.Обучение: 4-bit, LoRA rank 16, alpha 16, max seq 1,024, effective batch 8, lr 2e-4, 60 шагов.
Данные: до 3 000 отзывов Yelp, метки по звёздам; тест — из train-сплита Yelp, это не официальный бенчмарк.
Ограничения: учебный эксперимент, домен Yelp, сарказм/сленг/смешанные отзывы; не для high-stakes решений; лицензия не указана.










Comments