Qwen3.8-27B-Cricket-Reasoning-RLVR-120steps
рассуждения о крикете в 6 раз короче
2 min readupdated
Это LoRA-адаптер (небольшая надстройка над базовой моделью) для языковой модели Qwen/Qwen3.8-27B от автора Balab2021, обученный решать математические и статистические задачи по крикету в формате T20. Модель училась методом RLVR (обучение с подкреплением на основе проверяемых наград) без готовых примеров рассуждений: она сама генерировала цепочки мыслей в режиме размышлений (thinking mode) и получала награду только за точный итоговый ответ. По сравнению с оригинальной базовой моделью адаптер поднимает общую точность с 97.00% до 99.96% и сокращает среднюю длину рассуждений с 734 до 119 токенов, полностью убирая обрывы генерации. Подойдёт разработчикам спортивной аналитики и исследователям, изучающим сжатие цепочек рассуждений через RL.
Ключевые особенности
- Почти безошибочные расчёты: общая точность на отложенном тесте из 600 вопросов выросла с 97.00% до 99.96%, а в задачах на темп набора очков (run_rate) и вехи (milestone) достигла 100%.
- Шестикратное ускорение вывода: среднее количество генерируемых токенов при рассуждении сократилось с 734 до 119 за счёт штрафа за длину в функции награды.
- Нулевой процент обрывов: доля ответов, не уложившихся в лимит токенов, снизилась с 0.83% до 0.00%.
- Обучение без дистилляции следов: модель не копировала чужие объяснения, а самостоятельно находила кратчайший путь к верному числу на датасете CricketData-T20-Reasoning-Qwen3.8-Full.
Что можно сделать
- Встроить в чат-бота или сервис спортивной аналитики для быстрого расчёта темпа игры, шансов погони за счётом (chase_rate) и статистики матчей T20.
- Использовать код и методику обучения (групповой policy gradient со штрафом за длину) как референс для оптимизации thinking-режима LLM в других узких предметных областях.
Пример
import torch
from peft import PeftModel
from transformers import AutoModelForImageTextToText, AutoTokenizer
tok = AutoTokenizer.from_pretrained("Qwen/Qwen3.8-27B")
model = AutoModelForImageTextToText.from_pretrained("Qwen/Qwen3.8-27B", dtype=torch.bfloat16, device_map="auto")
model = PeftModel.from_pretrained(model, "Balab2021/Qwen3.8-27B-Cricket-Reasoning-RLVR-120steps")
prompt = tok.apply_chat_template(messages, tokenize=False, add_generation_prompt=True, enable_thinking=True)
Подробнее
Бенчмарк (600 вопросов, 4 сэмпла на каждый): общая точность 99.96% (было 97.00%), chase_rate — 99.88% (было 93.62%), среднее число токенов — 119 (было 734).Детали обучения: 120 шагов, 122 880 роллаутов, LoRA r=32, alpha=64 на проекциях attention, Gated-DeltaNet и MLP.
Железо при обучении: 1.8 часа на 32 GPU NVIDIA Vera Rubin.










Comments