rpn-gpt-lightning-LoRA

LoRA-адаптер для NVIDIA Nemotron 3.5 Lightning 30B-A3B-BF16 от автора markab. Он учит модель писать точную программу на Forth, когда задаче нужны вычисления, и отвечать напрямую, когда машина не требуется. Ранг адаптера — 16, alpha — 32, размер — около 23 MB.

👀 Ключевые особенности

• 👉 Адаптер можно горячо подменить на vLLM-сервере с уже загруженной BF16-базой.
• 💪 Модель только пишет код на Forth; исполняет rpn_chat.py, loop_sim.py или ядро в весах.
• 🔥 На frozen test — 92.1% против 79.1% у stock Lightning (+13.0 пункта).
• 😌 На сложных задачах frozen test — 89.7% против 69.1% (+20.6).
• 🤫 MATH-500 без машины — 97.8% против 97.1% у базовой модели.

💪 Пример

Запуск адаптера на vLLM:

hf download markab/rpn-gpt-lightning-LoRA --local-dir rpn-gpt-lightning-LoRA
vllm serve nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 --served-model-name lightning --max-model-len 65536 \
  --enable-lora --max-lora-rank 16 --lora-modules rpn=$PWD/rpn-gpt-lightning-LoRA

Подробнее

Бенчмарки: frozen test 92.1% vs 79.1%, hard-подмножество +20.6 пункта, MATH-500 без машины 97.8%.
Нужна BF16-база Nemotron 3.5 Lightning; адаптер ~23 MB, обучение — LoRA SFT (rank 16, alpha 32, lr 1e-4, 503 шага).
На NVFP4-базе адаптер в runtime дал 87.5% против 91.7% на BF16. Модель только пишет Forth; исполнение — отдельно.
Ограничения машины: только целые числа, 20 цифр на число, до 10 цифр у верхнего операнда * и mod, 196608 шагов ядра на блок.