DzSentiment

DzSentiment от okba-bouziane — это XLM-RoBERTa base (0,28 млрд параметров), дообученная на 3-классовый сентимент: negative, neutral, positive. Модель рассчитана на клиентские тексты на алжирской дариже (арабица, латиница или смесь), арабском, французском и английском.

⚡ Ключевые особенности

• ⚡ Три класса тональности: negative, neutral, positive.
• 🌐 Понимает дарижу в арабице, латинице и смешанной записи, а также арабский, французский и английский.
• 📊 Средний macro-F1 0,704 на четырёх языках против 0,591 у TF-IDF + logistic regression.
• 🖥 Обучение заняло 9,5 минуты на одной Kaggle T4: 3 эпохи, lr 2e-5, batch 32, max 128 tokens, fp16.
• 🔍 Есть готовый pipeline в transformers.

💻 Пример

from transformers import pipeline
clf = pipeline("text-classification", model="okba-bouziane/dzsentiment-xlmr-base")
clf([
    "merci bzaf, la livraison wslat f wa9tha",
    "Le service client ne répond jamais."
])

Подробнее

Macro-F1: 0,783 для дарижи, 0,622 для арабского, 0,719 для французского, 0,692 для английского; среднее — 0,704.
Zero-shot gpt-oss-120b на выборке 800 строк — 0,639 против 0,699 у этой модели.
Данные: 39 999 комментариев YouTube на дариже и по 1 839 твитов на арабском, французском и английском.
Ограничения: neutral — самый слабый класс во всех языках; обучение с одним seed; на реальном клиентском инбоксе результаты могут отличаться.