BERTimbau: сентимент отзывов

Это файнтюн BERTimbau base (около 110M параметров) от suellenlima для бинарной классификации отзывов о покупках на бразильском португальском. Обучен на публичных отзывах Olist и относит текст к positive или negative.

🔥 Ключевые особенности

• 👀 Язык — бразильский португальский; задача — бинарный сентимент.
• 🔥 Обучение на Olist: 25 946 примеров в train, 3 243 в validation, 3 244 в test; дубликаты удалены, split 80/10/10.
• 🤔 Слабые метки по оценке: 1–2 → negative, 4–5 → positive, оценка 3 отброшена.
• 🚀 На тесте: F1 macro 0.933, accuracy 0.941.
• ⛔ Класса neutral нет; возможны ошибки на иронии и смешанных текстах.

🚀 Пример

from transformers import pipeline

clf = pipeline("text-classification", model="suellenlima/bertimbau-sentimento-reviews-ptbr")
clf("A entrega chegou atrasada e a comida fria.")

Подробнее

F1 macro 0.933 и accuracy 0.941 на тесте.
Тренировка: 3 эпохи, lr 2e-05, batch 32, max_length 128, warmup 0.1, weight decay 0.01.
Ограничения: только e-commerce; метки шумные из-за оценок; ирония и смешанные тексты даются сложно; neutral не поддерживается.
Для автоматических решений о людях нужна ручная проверка.