HeliosLM HDL E4B
модель на базе Gemma 4 для разработки на Verilog
2 мин чтенияобновлено
Специализированная языковая модель от Bitstar Inc. для проектирования цифровой аппаратуры на языках Verilog и SystemVerilog. Она основана на текстовой версии Google Gemma 4 E4B-it (около 8 млрд параметров) и обучена с помощью RL (обучения с подкреплением на результатах симуляции) и LoRA (надстройки для дообучения), после чего веса объединили через метод chat vector для сохранения диалоговых навыков. На выходе модель умеет писать синтезируемый RTL-код (описание аппаратуры на уровне регистровых передач), править существующие модули и исправлять ошибки по логам тестов и компилятора. Подойдёт инженерам-схемотехникам и разработчикам ПЛИС/ASIC для ускорения рутинной работы с HDL-кодом.
Ключевые особенности
- Обучена на открытых проектах (OpenTitan, Ibex, CV32E40P) и репозиториях GitHub, прошедших проверку линтером Verilator и синтез в Yosys.
- Гибридный пайплайн: сочетание RL на базе симуляций, переноса весов (0.5x chat vector) и финальной LoRA на задачах по исправлению багов.
- Исключение утечек: задачи из бенчмарков VerilogEval, RTLLM и CVDP были заранее удалены из обучающей выборки.
- Доступна под свободной лицензией Apache-2.0 и поддерживает запуск через transformers или сервер vLLM.
Что можно сделать
- Генерировать синтезируемые модули на Verilog и SystemVerilog по текстовому описанию (например, счётчики или базовые блоки).
- Искать и чинить баги в существующем RTL-коде, передавая модели полный исходник модуля вместе с логом ошибки компиляции или симуляции.
- Встроить модель в локальный контур разработки через vLLM (с контекстом до 16384 токенов) как ассистента для правки HDL-кода.
Пример
from transformers import AutoModelForCausalLM, AutoTokenizer
name = "chienhsinlin/helioslm-hdl-e4b"
tok = AutoTokenizer.from_pretrained(name)
model = AutoModelForCausalLM.from_pretrained(name, dtype="bfloat16", device_map="auto")
msgs = [{"role": "user", "content": "Write a synthesizable Verilog module for a 4-bit up/down counter with synchronous reset."}]
ids = tok.apply_chat_template(msgs, add_generation_prompt=True, return_tensors="pt").to(model.device)
out = model.generate(ids, max_new_tokens=2048, do_sample=False)
print(tok.decode(out[0][ids.shape[1]:], skip_special_tokens=True))
Подробнее
Железо: для запуска в bf16 требуется видеокарта от 16 ГБ VRAM; для карт с 8 ГБ доступна отдельная GGUF-версия.Обучение: база Google Gemma 4 E4B / E4B-it (~7.94B параметров, только текст), датасеты OpenTitan, Ibex, CV32E40P, CodeV-R1-dataset и фильтрованный код из The Stack.
Ограничения: не предназначена для обычного чата, слабо справляется с полными UVM-стендами, UPF и крупными IP с нуля; весь сгенерированный код требует обязательной проверки в симуляторе.










Комментарии