REM matcher

REM matcher — это DeBERTa-v3-large cross-encoder на 0,44 млрд параметров, который определяет, является ли предсказанный ход актора тем же response-equivalent move (REM), что и реализованный. Модель используется как обучаемый матчер в роли reward-сигнала для reinforcement learning в исследовании о тренировке небольших языковых моделей предсказывать следующие ходы реальных акторов. Обучена на английском.

📝 Ключевые особенности

• 🤔 Принимает пару текстов «актор + ход»: предсказанный ход идёт первым, реализованный — вторым.
• 👍 Пары обрезаются до 512 токенов, метки — no (0) и yes (1).
• 😎 Сырые softmax-оценки не калиброваны; в calibration.json есть Platt scaling по logit margin.
• 🤓 В reward из статьи предсказанный ход засчитывается при p_match >= 0.75, два предсказанных хода считаются дубликатами при p_match >= 0.8.
• 📝 Пары для обучения размечены Claude-моделями: Sonnet — основная разметка, слепой второй проход на пограничных парах, Opus — арбитраж.

🤓 Пример

from transformers import AutoModelForSequenceClassification, AutoTokenizer

repo = "HiddenSystemsAI/rem-matcher"
tok = AutoTokenizer.from_pretrained(repo)
model = AutoModelForSequenceClassification.from_pretrained(repo).eval()
def side(actor, move):
    return f"Actor context: {actor}\nAction: {move}"

Подробнее

На 4 048 отложенных реальных парах: accuracy 94,4%, precision 83,4%, recall 82,6%, ECE 0,017.
Обучение: одна эпоха, lr 1e-5, effective batch 32; старт с более раннего ordinal matcher той же архитектуры.
Ограничение: матчер пропускает примерно от пятой до трети совпадений, которые принимают судьи; не стоит использовать его как единственную метрику оценки.
Язык — английский; модель заточена под новостные ходы государств, компаний и других публичных акторов.