GLM-5.3-Flash-Geo3K-RL-LoRA-step15
LoRA-адаптер для решения геометрических задач
2 min readupdated
PEFT LoRA-адаптер (небольшая надстройка над базовой моделью) от автора HollowMan6 для мультимодальной модели zai-org/GLM-5.3-Flash, который обучали решать задачи по геометрии с опорой на изображения. На вход подаётся условие задачи вместе с чертежом, а на выходе модель выдаёт решение и ответ. В отличие от базовой версии, адаптер дообучен методом GRPO (обучение с подкреплением с групповой оценкой ответов) на датасете Geometry3K, что повысило точность на тестовой выборке с 66,22% до 82,03%. Подойдёт разработчикам и исследователям, которые работают с визуальным математическим рассуждением и хотят усилить GLM-5.3-Flash в геометрии.
Ключевые особенности
- Работает в формате image-text-to-text: анализирует геометрические чертежи и текст условия одновременно.
- Повышает точность на тесте Geometry3K (601 задача) с 0.6622 у базовой модели до 0.8203.
- Обучен с помощью GRPO через связку verl, Megatron-LM и Megatron-Bridge.
- Чекпоинт сохранён на 15-м шаге из 30-шагового прогона обучения (в серии также есть версии step5 и step10).
Что можно сделать
- Подключить адаптер к базовой
zai-org/GLM-5.3-Flashчерез vLLM для автоматического решения школьных и олимпиадных задач по геометрии с картинками. - Использовать как референс или отправную точку для экспериментов с RL-дообучением мультимодальных моделей через verl и Megatron.
- Сравнить качество рассуждений на разных этапах обучения, протестировав вместе чекпоинты step5, step10 и step15.
Пример
from vllm import LLM
from vllm.lora.request import LoRARequest
llm = LLM(model="zai-org/GLM-5.3-Flash", enable_lora=True, max_lora_rank=16,
trust_remote_code=True, tensor_parallel_size=8, enforce_eager=True)
lora_req = LoRARequest(lora_name="geo3k", lora_int_id=1,
lora_path="HollowMan6/GLM-5.3-Flash-Geo3K-RL-LoRA-step15")
Подробнее
Метрики на Geometry3K test (601 строка): Accuracy — 0.8203 (базовая модель — 0.6622), Score — 0.7383.Параметры LoRA: rank 16, alpha 32, затронуто 22 целевых модуля (q_proj, k_proj, v_proj, o_proj и др.).
Детали обучения: база в квантовании FP8, обучение в BF16 на 2 узлах (16 GPU) с resync_base=True и R3 router replay.
В примере запуска используется vLLM с tensor_parallel_size=8.










Comments