WRIME Multi-Emotion Intensity Model
8 эмоций по-японски без переобучения энкодера
1 мин чтения
Модель от MuneK для предсказания интенсивности восьми эмоций в японском тексте: joy, sadness, anticipation, surprise, anger, fear, disgust и trust. Основа — энкодер ModernBERT-ja на 310M параметров; он не менялся, а голова 768→8 выдаёт оценки в шкале 0–1. Это вариант B с исправленным tokenizer и калибровкой весов головы.
Ключевые особенности
- Исправлен tokenizer: вместо посимвольного разбиения японского текста используется корректная быстрая токенизация.
- Откалиброваны только 16 параметров выходной головы; энкодер и остальные 314,6 млн параметров не тронуты.
- Калибровка масштабов logit между эмоциями улучшает argmax, не меняя порядок внутри каждой эмоции.
- Dominant Emotion Accuracy выросла с 0.8044 до 0.8408, macro F1 — с 0.7504 до 0.7814.
- Только японский язык; оценки anger и trust опираются на очень малое число примеров.
Пример
from transformers import AutoTokenizer
from huggingface_hub import hf_hub_download
import torch
REPO = "MuneK/wrime-emotion-modernbert-calibrated"
tok = AutoTokenizer.from_pretrained(REPO)
w = hf_hub_download(REPO, "pytorch_model.bin")
# model.load_state_dict(torch.load(w, weights_only=True), strict=True)
Подробнее
ПодробнееDominant Emotion Accuracy: 0.8408 против 0.8044 у базовой модели; macro F1: 0.7814 против 0.7504.
MSE: 0.00768 против 0.00724 — регрессионная часть почти не изменилась.
310M параметров; требования к VRAM в карточке не указаны.
Ограничения: только японский; anger (n=20) и trust (n=9) имеют широкие доверительные интервалы.
Лицензия WRIME — CC BY-NC-ND 4.0: некоммерческое использование, без производных.










Комментарии