tc-4b
Torchcast Decision 4B, continued: прирост Capability на JevBench
tc-4b — продолжение обучения torchcast-ai/torchcast-decision-4b v1.3.1 (база Qwen3.5-4B) от yujie111222. Это LoRA-дообучение (r=32, alpha=64, lr 1e-4, 49 optimizer steps) с последующим merge весов на ~94k admitted rows из лицензионно отфильтрованной стратифицированной выборки DecisionBank. Размер — около 5,17B параметров; лицензия Apache 2.0.
⚙ Ключевые особенности
- ⚙ LoRA r=32, alpha=64, lr 1e-4, 49 optimizer steps; веса объединены с базовой моделью.
- 🗂 Обучение на ~94k admitted rows из DecisionBank-260k; использован лицензионный allowlist apache/mit/bsd/cc-by/cc0/unlicense/public-domain, public-split JevBench не применялся.
- 🔎 На JevBench 231 public items (v1.6 scorer): Capability 85.54 против 81.37 у базы, Intelligence 79.81 против 74.93, Calibration 91.26 против 87.82.
- 💻 Сервинг как у базовой модели: bundled
torchcast_decision/иdecision_config.json; full-attention-слои noncausal. - ❗ vLLM и llama.cpp не воспроизводят оценённый интерфейс из-за generic causal-attention.
- 🛡 Apache 2.0; модель производна от torchcast-decision-4b и Qwen3.5-4B.
💻 Пример
Сценарий из карточки — decision-задачи, где важны качество распределения и expected-value distance, а не только argmax accuracy. Готового промпта в карточке нет: запускать стоит через bundled torchcast_decision/ и decision_config.json, как базовую v1.3.1 — обычный causal-инференс не гарантирует совпадения с оценённым интерфейсом.
Подробнее
JevBench 231 public items, v1.6 scorer: Intelligence 79.81, Calibration 91.26, Capability 85.54; у базы v1.3.1 — 74.93 / 87.82 / 81.37.Прирост сосредоточен в score question type: качество распределения и expected-value distance, а не argmax accuracy.
Требований к VRAM в карточке нет; для оценки нужен bundled serving, generic causal-рантаймы не подходят.
Данные: ~94k admitted rows; JevBench public-split не использовался.








Комментарии