Chinese Decision Pointer 4B
вероятности для любых кандидатов за один forward pass
1 мин чтенияобновлено
Это файнтюн Qwen3.5-4B на 4,21 млрд параметров от quincyqiang. Модель получает состояние, вопросы и варианты ответа, а возвращает калиброванную вероятность каждого кандидата без генерации текста. Pointer-голова снимает ограничение в 26 вариантов, характерное для letter-readout версии.
Ключевые особенности
- Pointer-读出: после каждого кандидата ставится
<|object_ref_end|>, после вопроса —<|object_ref_start|>; голова на 256 измерений оценивает пары «решение × кандидат» и выдаёт softmax-вероятности. - Совместные вопросы: несколько вопросов по одному состоянию идут в одной последовательности и обрабатываются за один forward pass.
- База — Qwen3.5-4B, обучение через LoRA с рангом 64, затем веса слиты в BF16-файл
model.safetensors. - Поддерживаются китайский и английский языки.
- Вероятности калибруются температурой T = 1,538, подобранной на отдельной калибровочной выборке.
Пример
from decision.modeling import DecisionModel
from decision.processing import DecisionProcessor
model = DecisionModel.from_pretrained(
"quincyqiang/chinese-decision-pointer-4b", device="cuda"
)
processor = DecisionProcessor.from_pretrained(
"quincyqiang/chinese-decision-pointer-4b"
)
Подробнее
Decision Index 0.3: 61,69 (raw 71,01) на 140 178 запросах.Сильные домены: Tools & Automation — 85,2, Retrieval & Classification — 70,6.
На NVIDIA A800 медианная задержка — 64 мс, p95 — 386 мс.
Модель только выбирает из готовых кандидатов, не генерирует текст и не умеет воздерживаться; сложные многошаговые задачи пока слабее крупных моделей.










Комментарии