Qwen-3.5-Babel-27B SFT Agent Multistep

Полнопараметрический SFT-файнтюн от theostos на базе Qwen/Qwen3.5-27B: 26,9 млрд параметров, text-only Qwen3_5ForCausalLM, не адаптер. Модель пошагово предлагает тактики для Lean и Rocq через tool call submit_tactic и должна работать с ответами настоящего верификатора.

🔥 Ключевые особенности

• ✅ 807 проверенных демонстраций: 360 для Lean и 447 для Rocq.
• 🦾 5 287 вызовов тактик с реальными наблюдениями верификатора; в 801 примере больше одного вызова.
• 🧘 Нативный chat template Qwen, assistant reasoning и структурированные tool_calls; loss получают reasoning и тактики.
• 🔥 5 эпох и 130 optimizer updates, checkpoint epoch_4_step_129.
• 📉 Нет vision encoder, кастомного кода и NeMo: достаточно стандартного Transformers.

✨ Пример

from transformers import AutoModelForCausalLM, AutoTokenizer
model_id = "theostos/qwen-3.5-babel-27b-sft-agent-multistep"
tok = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, dtype="auto", device_map="auto")
# далее: apply_chat_template(..., tools=[submit_tactic], enable_thinking=True)
# generate(max_new_tokens=1024), распарсить tool_calls и отправить тактику верификатору

Подробнее

Это SFT, не RL; оценка решения теорем в релизе не заявлена.
Обучение: 12 288 токенов, global batch 32, lr 1e-5, warmup 50 обновлений.
BF16-веса на 26,9B требуют мощного GPU/VRAM; проверены загрузка Transformers 5.5.0 и CUDA forward.
Rocq-среда восстановлена на CORN 8.20.0, Lean replay — на Mathlib/Lean v4.22.0-rc4.
Сгенерированные доказательства всё равно нужно проверять.