Qwen3.5-4B-Decision

Это дообученная Qwen/Qwen3.5-4B (4.21B) в роли decision-модели «System One»: она отвечает на типизированные вопросы о состоянии — yes/no, выбор из вариантов и оценка по порядковой шкале — вероятностями за один forward pass, без генерации текста. Обучена под точный промпт эндпоинта /v1/systemone в transformers serve.

🧐 Ключевые особенности

• 🧐 Три типа вопросов: noul (вероятность true), choice (один из именованных вариантов), score (уровень по порядковой шкале).
• 💯 Вероятности берутся из next-token logits меток в конце промпта и нормализуются softmax.
• 🚀 Запускается как есть через /v1/systemone, без отдельного decision-конфига.
• 🔜 До 26 вариантов на вопрос (метки A–Z), только текст; промпты длиннее 512 токенов не обучались.
• ⛔ Другой промпт или набор меток — не то, на чём модель тренировали; temperature не подбирали.

🚀 Пример

curl http://localhost:8000/v1/systemone -H "Content-Type: application/json" -d '{
  "model": "rycerzes/Qwen3.5-4B-Decision",
  "state": "Checkout returns 500 errors; customers cannot pay.",
  "questions": {"refund": {"type": "noul", "instructions": "Is a refund requested?"}}
}'

Подробнее

На typed-decisions: accuracy 67.3% против 56.0% у базовой Qwen3.5-4B, Brier 0.137 против 0.331; на JevBench — 89.1% и 0.141.
Обучение: LoRA r=16 (все linear-слои текстовой модели, merged), 40k вопросов, одна эпоха; 108 минут на одной L4 (24 ГБ), пик 10.6 ГБ.
Слабое место — ordinal score на JevBench: 42.9%; вероятности идут прямо из softmax логитов меток, без temperature.