Jasper-K-27B

Jasper-K-27B — 27B-модель от Ragentile, полученная RL-постобучением Qwen3.8-27B с reasoning effort medium. Она генерирует корректные реализации CUDA-ядер и пытается ускорять их через многотуровое взаимодействие со средой выполнения.

🎯 Ключевые особенности

• 🔄 Multi-rollout, multi-turn GRPO: модель получает фидбек о компиляции, корректности и производительности и дорабатывает код.
• ⚡ Награда за улучшение подталкивает не останавливаться на первом корректном ядре, а искать более быстрые варианты.
• 📚 Обучение на 180 задачах KernelBenchFixed L1–L2; ещё 20 задач — для мониторинга и выбора чекпоинтов.
• 🛡 50 задач LeetCuda от команды RL из University of Alberta используются только для теста.
• 💻 В комплекте веса и harness для multi-turn/multi-rollout инференса; бэкенд оценки нужно подключать свой.

⌨ Пример запуска

export CUDAMASTER_GPUS=0,1,2,3,4,5,6,7
export JASPER_K_EVALUATOR_ENDPOINT=http://127.0.0.1:9000
python3 harness.py --problems /absolute/path/to/problems --out ./run_out --backend cuda --samples 16 --timeout 7200

Подробнее

Бенчмарки из блога: KernelBench 2.289× → 3.471× (+51.64%), LeetCuda 2.161× → 2.580× (+19.39%) в METR Best GM Speedup @16×4.
Дефолтное развёртывание — 2 реплики × TP4, всего 8 устройств; контекст сервера 122 880 токенов, до 4 туров на траекторию.
Нужны Python 3.11+, vLLM/Transformers и собственный evaluator через адаптер: внутренний CudaEval не поставляется.
Без evaluator endpoint каждая траектория делает только один тур. Лицензия — Apache 2.0.