gemma-4-31B-it-RTL-DPO-f4sig
файнтюн Gemma 4 для RTL-дизайна
2 мин чтения
Модель принимает описание спецификации или задачу и генерирует код на Verilog / SystemVerilog, пишет тестбенчи (тестовые окружения) и может вести многошаговые агентные сессии: читать, записывать и симулировать файлы с помощью инструментов. Она основана на google/gemma-4-31B-it, содержит 31.27B параметров и задумана как drop-in замена базы — тот же tokenizer, chat template и архитектура Gemma4ForConditionalGeneration. Отличие — четыре раунда итеративного on-policy DPO (дообучение на парах «лучше/хуже» из собственных ответов модели) без внешнего teacher; обучение шло только на текстовых данных, vision-веса перенесены без изменений и не оценивались. Пригодится инженерам и агентам для RTL-задач; для других HDL и качества синтеза заявлений нет.
Ключевые особенности
- Четыре последовательных раунда DPO: 6 511, 2 459, 2 348 и 1 530 пар предпочтений.
- Задачи: генерация RTL по спецификации, написание тестбенчей и многошаговые агентные сессии с инструментами.
- Drop-in замена
google/gemma-4-31B-it: те же tokenizer, chat template и архитектура, bf16, два safetensors-шарда. - Оценка через официальный CVDP harness NVIDIA, категории cid002 и cid003.
Что можно сделать
- Сгенерировать RTL-модуль по текстовой спецификации на Verilog / SystemVerilog.
- Написать тестбенч для проверки модуля.
- Запустить агентную сессию: модель читает, пишет и симулирует файлы инструментами.
- Поднять через vLLM как замену базовой Gemma 4 с тем же chat template.
Пример
vllm serve ntu-paslab-llm2/gemma-4-31B-it-RTL-DPO-f4sig --tensor-parallel-size 2 --max-model-len 65536
Подробнее
CVDP one-shot pass@1: 45.70 против 43.87 у базы (+1.83, интервал включает шум); agentic pass@1: 53.12 против 50.65 (+2.47, вне интервала).AIME 2026 avg@16: 91.25 против 88.75; BFCL v4 multi-turn: 65.42 против 66.34.
Обучение: 2 узла × 8 H100, bf16, max seq 20 480; рекомендация — temperature 1.0, top_p 0.95, top_k 64, thinking enabled и жёсткий лимит новых токенов.
Ограничения: длиннее reasoning, возможны циклы повторов на длинных генерациях; только английские hardware-design задачи, image inputs не оценивались; только Verilog / SystemVerilog, без заявлений о других HDL и качестве синтеза.










Комментарии