Refusal-Classifier-v2
пять типов ответа LLM
1 мин чтения
Это компактный классификатор на 0,15 млрд параметров, дообученный от answerdotai/ModernBERT-base. На вход получает prompt и response, на выходе выбирает один из пяти классов: compliant, full_refusal, partial_refusal, capability_limitation или clarification. Язык — английский.
Ключевые особенности
- Различает не только полный отказ, но и частичный, ограничение возможностей и уточняющий вопрос.
- Для выбора checkpoint использовали validation macro F1 — лучший результат 0.9937 на шаге 1800.
- Обучение и оценка только на английских отказах; для других языков качество может быть ниже.
- Совместим с
transformers:AutoTokenizerиAutoModelForSequenceClassification. - На вход можно подавать пары prompt/response до 8192 токенов (с truncation).
Пример
from transformers import AutoModelForSequenceClassification, AutoTokenizer
import torch
tok = AutoTokenizer.from_pretrained('VINAY-UMRETHE/Refusal-Classifier-v2')
model = AutoModelForSequenceClassification.from_pretrained('VINAY-UMRETHE/Refusal-Classifier-v2').eval()
labels = ['compliant','full_refusal','partial_refusal','capability_limitation','clarification']
inputs = tok(prompt, text_pair=response, truncation=True, max_length=8192, return_tensors='pt')
with torch.no_grad(): probs = torch.softmax(model(**inputs).logits, dim=-1)[0]
print(labels[int(probs.argmax())], f'{probs.max():.4f}')
Подробнее
На тесте из 1017 строк: accuracy 0.9872, macro F1 0.9874, weighted F1 0.9872.Обучение — Hugging Face
Trainer на split 80/10/10; checkpoint выбирали по validation macro F1.Ограничения: только английский; отказы, сформулированные иначе, могут классифицироваться хуже. Требования к VRAM в карточке не указаны.










Комментарии