AbsoluteZero NLI 2B

Модель от dleemiller на базе Qwen/Qwen3.5-2B (1.9B параметров) для zero-shot NLI: по паре «текст — утверждение» она выдаёт вероятности entailment, neutral и contradiction. Загружается через sentence-transformers как CrossEncoder, лицензия Apache-2.0.

⚡ Ключевые особенности

• 🎯 Zero-shot NLI: проверяет, следует ли утверждение из текста, противоречит ему или нейтрально.
• ⚡ Fast mode: один forward pass и classifier head, калиброванные вероятности; около 350 пар/с на коротких парах.
• 💭 Think mode: короткий reasoning trace перед вердиктом — для многошаговой логики, квантификаторов и сложных контрактов.
• 🔎 Сценарии: RAG grounding, guardrails, проверка контрактов, клинические извлечения и тегирование.
• 🌐 Только английский; вход до 32k токенов, но обучение шло на 8k — качество на более длинных документах отдельно не тестировали.
• 🏆 #2 в OpenNLI Skill Index (fast mode), 59.6; accuracy 0.8262.

🎯 Пример

from sentence_transformers import CrossEncoder
model = CrossEncoder("dleemiller/AbsoluteZero-nli-2b", trust_remote_code=True)
text = "My card was charged twice for the same order."
labels = ["billing", "shipping", "account access"]
probs = model.predict([(text, f"This text is about {l}.") for l in labels], apply_softmax=True)
print({l: round(float(p[0]), 3) for l, p in zip(labels, probs)})

Подробнее

OpenNLI: Skill Index 59.6, accuracy 0.8262; среднее по 45 датасетам — 0.8264.
Fast mode: ~350 пар/с на коротких парах; think mode — примерно 1–10 пар/с с transformers.
Ограничения: только английский, слабее на финансовой/юридической проверке и adversarial reasoning.
Веса — stage-2 GRPO LoRA, слитая со stage-1, в bfloat16.