MiniMax-H3-Image-EntroPack
запуск 33.1B модели в 4K на 12–24 ГБ VRAM
2 min readupdated
Набор предварительно квантованных и обрезанных (AdaLN-pruned) весов для генератора изображений MiniMax/MiniMax-H3-Image от команды DiffSynth-Studio. Разработчики заменили проекции AdaLN и эмбеддер шагов на предвычисленные таблицы поиска для дистиллированного 6-шагового режима — это уменьшило модель с 33.1B до 20.1B параметров (с 66.3 ГБ до 40.2 ГБ в bfloat16) вообще без потери качества относительно оригинала. Сверху применено сжатие EntroPack (энтропийное кодирование и квантование весов до 3–8 бит на параметр), благодаря чему тяжелая модель помещается в видеопамять потребительских видеокарт от 12 до 24 ГБ VRAM. Релиз пригодится всем, кто хочет локально генерировать изображения в разрешении 4096×4096 через ComfyUI или DiffSynth-Studio и обучать под модель свои LoRA.
Ключевые особенности
- Без потерь на этапе прунинга: версия
bf16_table_prunedвыдаёт попиксельно идентичный оригиналу результат при том же промпте и сиде за 6 шагов сэмплирования. - Пять уровней сжатия DiT: доступны пакеты
8bit,7bit,6bit,4.5bitи экстремальныйextreme_3bpp(всего 7.67 ГБ), а также квантованныйvae_int8(0.77 ГБ). - Ускорение через INT8 GEMM: варианты с суффиксом
_int8используют матричные умножения INT8 W8A8 с convrot и работают быстрее версий на BF16 GEMM. - Гибкая сборка под железо: веса DiT и текстового энкодера (
text_encoder_3bpp–8bpp) выбираются и комбинируются независимо друг от друга. - Готовая интеграция с ComfyUI: в репозитории лежит готовый воркфлоу
featured_minimax_h3_image_entropack.jsonдля нод DiffSynth-ComfyUI с автозагрузкой весов.
Что можно сделать
- Генерировать детализированные изображения 4096×4096 за 6 шагов на видеокартах с 24 ГБ VRAM (рекомендуются
dit_7bitилиdit_7bit_int8). - Запускать генерацию на видеокартах с 12 ГБ VRAM и меньше, выбрав облегчённые пакеты
dit_4p5bitилиdit_4p5bit_int8. - Дообучать собственные LoRA-адаптеры под MiniMax-H3-Image с помощью готовых скриптов тренировки и валидации из DiffSynth-Studio.
Пример
from diffsynth.pipelines.minimax_h3_image import MiniMaxH3ImagePipeline, ModelConfig
pipe = MiniMaxH3ImagePipeline.from_pretrained(
torch_dtype=torch.bfloat16, device="cuda",
model_configs=[
register_prequantized("DiffSynth-Studio/MiniMax-H3-Image-EntroPack", "models/dit_7bit.safetensors"),
register_prequantized("DiffSynth-Studio/EntroPackPreQuants", "models/MiniMax-H3/text_encoder_3bpp.safetensors"),
ModelConfig(model_id="DiffSynth-Studio/MiniMax-H3-Image-EntroPack", origin_file_pattern="models/vae_int8.safetensors"),
],
)Подробнее
Требования к VRAM: от 24 ГБ дляdit_7bit / dit_7bit_int8, от 12 ГБ и меньше для dit_4p5bit / dit_4p5bit_int8.Ограничения: только для инференса в дистиллированном 6-шаговом расписании; для режима INT8 GEMM нужны Triton и GPU NVIDIA с Compute Capability 8.0+ (Ampere и новее).
Зависимости: требуются DiffSynth-Studio, EntroPack и пакет CuPy под вашу версию CUDA (
cupy-cuda12x или cupy-cuda13x).













Comments