К содержимому
Изображения

1⃣ Kenzan-MiniMax-H3-Image-20B-PinGrid-GGUF

тяжёлая генерация картинок в 16 ГБ памяти

2 мин чтенияобновлено

Автор kabcnd выпустил полный комплект квантованных (сжатых) весов модели генерации изображений MiniMax-H3-Image, адаптированный для локального запуска на устройствах с 16 ГБ объединённой памяти Apple Silicon. В сборку вошли 20-миллиардный диффузионный трансформер (DiT), текстовый энкодер Qwen3-VL-32B (50 слоёв) и оригинальный VAE в формате FP16. С помощью комбинированной схемы сжатия Pin-Grid объём модели удалось уменьшить более чем в четыре раза без потери работоспособности на потребительском железе. Решение пригодится владельцам Mac с 16 ГБ RAM, которые хотят запускать крупные генеративные модели локально без ошибок нехватки памяти (OOM).

Ключевые особенности

  • Сжатие Pin-Grid: основной блок 20B DiT весит 8,40 GiB вместо исходных 37,47 GiB в BF16 (уменьшение в 4,46 раза).
  • Компактный энкодер: 50-слойный Qwen3-VL-32B распакован из int8_convrot и сжат до 10,46 GiB с сохранением визуальных слоёв visual.* в Q8_0 для редактирования картинок.
  • Поддержка популярных движков: работает как через нативный stable-diffusion.cpp (sd-cli и sd-server с Metal), так и в ComfyUI через плагин ComfyUI-GGUF.
  • Открытые рецепты: в репозитории лежат Python-скрипты convert_dit_to_gguf.py и convert_te_to_gguf.py для самостоятельной потоковой конвертации.

Что можно сделать

  • Генерировать изображения 1024×1024 локально через терминал с помощью sd-cli на Mac mini M6 с 16 ГБ памяти.
  • Поднять фоновый локальный сервер sd-server на порту 8189, чтобы не тратить время на повторную загрузку весов при каждом запросе.
  • Подключить веса в ComfyUI через ComfyUI-GGUF для сборки пайплайнов генерации и редактирования изображений.

Пример

./sd-cli --diffusion-model Kenzan-MiniMax-H3-Image-20B-PinGrid-Q3_K-M6-16G.gguf \
  --llm Kenzan-Qwen3VL-32B-L50-MiniMaxH3-PinGrid-Q2_K-M6-16G.gguf \
  --vae minimax_h3_image_vae_fp16.safetensors \
  --offload-to-cpu --flash-attn on \
  -W 1024 -H 1024 --steps 6 --cfg-scale 1.0 \
  --sampling-method euler --scheduler simple -p "Your prompt here" -o output.png
ПодробнееТесты на Apple Mac mini M6 (16 GB Unified Memory, 1024×1024, 6 шагов euler/simple):
— stable-diffusion.cpp (Metal 4): 7,20–8,24 с/шаг, декодирование VAE 2,43–2,59 с (с флагом --offload-to-cpu).
— ComfyUI + ComfyUI-GGUF (PyTorch MPS): 13,27 с/шаг, декодирование VAE 5,36 с, пиковое потребление памяти 11,88 GiB.
Состав файлов: DiT 8,40 GiB (смесь Q2_K/Q3_K/Q4_0/Q5_K и F32), энкодер 10,46 GiB (Q2_K/Q3_K/Q4_0/Q5_K/Q8_0), VAE 1,09 GiB (FP16).
Обсудить Telegram 0 173

Запустится ли?

Запустится в GGUF Q2_K

Влезает самая точная из готовых сжатых версий.

  • GGUF Q2_Kвеса 10 GB · готовые файлы13 GB
  • GGUF Q3_Kвеса 8.4 GB · готовые файлы11 GB

Что взять под эту модель

Massed ComputeОткрыть Massed Compute

Своя видеокарта: GGUF Q2_K — от RTX 5080

Почасовые цены Massed Compute на ноябрь 2026. Цена со скидкой — с промокодом при оплате.

Оценка: веса плюс рабочая память. Длинные ролики, высокое разрешение и большой контекст требуют больше.

Запуск на Massed Compute

Готовый скрипт под машину, которую мы советуем выше: вставили — модель скачалась и запустилась.

  1. 1. Арендуйте RTX A6000

    $0.43 в час с купоном. При создании машины выберите образ Ubuntu.

    Открыть Massed Compute
  2. 2. Вставьте скрипт в терминал машины

    Подключитесь по SSH (команда есть в панели Massed Compute) или откройте терминал на рабочем столе машины.

    HF_TOKEN / CIVITAI_TOKENВ начале скрипта строки для токенов: вставьте свой между кавычками. Токен Hugging Face нужен для закрытых моделей, токен Civitai — для моделей с Civitai.

    #!/usr/bin/env bash
    # Kenzan-MiniMax-H3-Image-20B-PinGrid-GGUF
    set -e
    # Драйвер NVIDIA: для CUDA 13 нужен 580+. Если старее или нет — ставится свежий nvidia-open (оставить свой: KEEP_DRIVER=1)
    DRV=$(nvidia-smi --query-gpu=driver_version --format=csv,noheader 2>/dev/null | head -1 | cut -d. -f1)
    case "$DRV" in ""|*[!0-9]*) DRV=0 ;; esac
    if [ "$DRV" -lt 580 ] && [ -z "${KEEP_DRIVER:-}" ]; then
      . /etc/os-release && \
      curl -fsSLO "https://developer.download.nvidia.com/compute/cuda/repos/ubuntu${VERSION_ID//./}/x86_64/cuda-keyring_1.1-1_all.deb" && \
      sudo dpkg -i cuda-keyring_1.1-1_all.deb && rm -f cuda-keyring_1.1-1_all.deb && \
      sudo apt-get update && \
      sudo DEBIAN_FRONTEND=noninteractive apt-get install -y nvidia-open || \
      { echo "Драйвер NVIDIA поставить не удалось: смотрите ошибку выше. Чтобы оставить текущий, запустите с KEEP_DRIVER=1."; exit 1; }
      echo "Драйвер NVIDIA обновлён. Перезагрузите машину (sudo reboot) и запустите этот же скрипт ещё раз."
      exit 0
    fi
    curl -LsSf https://astral.sh/uv/install.sh | sh
    source "$HOME/.local/bin/env"
    # CUDA 13+ → int8_convrot (так советует Comfy-Org), иначе fp8_scaled
    CU=$(nvidia-smi | grep -oP 'CUDA Version: \K[0-9]+' || echo 12)
    [ "$CU" -ge 13 ] && TORCH=cu130 || TORCH=cu128
    [ -d ~/ComfyUI ] || git clone https://github.com/comfyanonymous/ComfyUI ~/ComfyUI
    cd ~/ComfyUI
    uv venv --python 3.12 --allow-existing && source .venv/bin/activate
    uv pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/$TORCH
    uv pip install -r requirements.txt "huggingface_hub[cli]"
    # Базовые файлы: MiniMax H3, 8-bit
    if [ "$CU" -ge 13 ]; then
      hf download Comfy-Org/MiniMax-H3 text_encoders/qwen3vl_32b_minimax_h3_int8_convrot.safetensors vae/minimax_h3_video_vae_fp16.safetensors vae/minimax_h3_audio_vae_fp32.safetensors --local-dir models
    else
      hf download Comfy-Org/MiniMax-H3 text_encoders/qwen3vl_32b_minimax_h3_nvfp4_awq.safetensors vae/minimax_h3_video_vae_fp16.safetensors vae/minimax_h3_audio_vae_fp32.safetensors --local-dir models
    fi
    # Основная модель: Kenzan-MiniMax-H3-Image-20B-PinGrid-GGUF
    [ -d custom_nodes/ComfyUI-GGUF ] || git clone https://github.com/city96/ComfyUI-GGUF custom_nodes/ComfyUI-GGUF
    uv pip install -r custom_nodes/ComfyUI-GGUF/requirements.txt
    hf download kabcnd/Kenzan-MiniMax-H3-Image-20B-PinGrid-GGUF --include '*Q2_K*.gguf' --local-dir models/unet
    # Запуск ComfyUI. Со своего компьютера: ssh -L 8188:localhost:8188 пользователь@IP, затем http://localhost:8188
    python main.py --listen 127.0.0.1 --port 8188
  3. 3. Пользуйтесь

    Со своего компьютера: ssh -L 8188:localhost:8188 пользователь@IP-машины, затем откройте http://localhost:8188. Или откройте этот адрес в браузере на рабочем столе машины. Workflow для модели обычно лежит в её карточке на Hugging Face.

Не забудьте остановить машину в панели, когда закончите: оплата идёт поминутно, пока она включена.

Как ускорить

Подобрано под тип модели. Выберите своё железо в блоке выше — покажем то, что подходит именно вам.

  • SageAttention 3v2.2.0от 28 октября 2025

    ещё быстрее на RTX 50 / Blackwell

    FP4-внимание для Blackwell. Быстрее SageAttention 2, но авторы советуют 2-ю версию, когда важна точность.

    Как включить: Сборка из папки sageattention3_blackwell репозитория; в ComfyUI — через KJNodes.

    Предыдущие поколения (2)
    • SageAttention 2++ — Квантованное (INT8/FP8) внимание без заметной потери качества. Главное ускорение для генерации картинок и видео.
    • SageAttention 1 — Первая версия: INT8 для Q·K. Работает и на старых сборках, но 2++ быстрее и точнее.
  • FlashAttention 44.0.0b40от 18 ноября 2026новая версия

    самое быстрое точное внимание на B200

    Ядра для Blackwell (пока бета). Точное внимание без квантования — подходит для всего, включая LLM.

    Как включить: pip install flash-attn-4; vLLM и SGLang подхватывают сами.

    Предыдущие поколения (3)
    • FlashAttention 3 — Версия для Hopper (H100/H200) с FP8.
    • FlashAttention 2 — Стандарт для RTX 30/40/50 и A100: точное внимание без лишней памяти на длинных контекстах.
    • xFormers — Старый способ ускорить внимание, работает почти везде. Если есть Sage или Flash — они быстрее.
  • cache-dit (DBCache)v1.5.6от 20 ноября 2026новая версия

    1.5–3× при почти том же качестве

    Переиспользует результаты блоков между шагами диффузии. Поддерживает большинство DiT-моделей.

    Как включить: pip install cache-dit; одна строка cache_dit.enable_cache(pipe) для diffusers.

    Предыдущие поколения (2)
    • MagCache — Пропускает шаги по величине изменений. Точнее TeaCache без калибровки.
    • TeaCache — Первый массовый кэш шагов диффузии. Работает, но новые методы точнее.
  • Nunchaku (SVDQuant 4-bit)v1.2.1от 25 января 2026

    ≈3× быстрее и в 3.5× меньше памяти

    4-битные версии популярных моделей картинок почти без потери качества (FP4 на RTX 50).

    Как включить: Есть готовые веса для поддерживаемых моделей; в ComfyUI — ComfyUI-nunchaku.

  • torch.compile2.15.0от 28 октября 2026новая версия

    10–30% бесплатно

    Компилирует модель под вашу видеокарту. Первый запуск дольше, дальше быстрее.

    Как включить: model = torch.compile(model); в ComfyUI — узел TorchCompileModel.

Промпты для MiniMax H3

Все промпты

Готовые промпты с видео результата: копируйте и пробуйте.

Семья модели

Дообучение модели

Comfy-Org/MiniMax-H3-Image
  1. MiniMax-H3основа семьи
  2. MiniMax-H3-Image
  3. MiniMax-H3-Image
  4. Kenzan-MiniMax-H3-Image-20B-PinGrid-GGUF

Новые посты про версии MiniMax-H3 — сжатые, дообучения, LoRA — появятся в колокольчике.

Сжатые версии 12Все на Hugging Face
Дообучения 12Все на Hugging Face
LoRA и адаптеры 12Все на Hugging Face
Слияния 3Все на Hugging Face

О модели

kabcnd/Kenzan-MiniMax-H3-Image-20B-PinGrid-GGUF
Автор
kabcnd
Категория
Изображения
Дата выхода
На сайте

На сайте

Hugging Face

1730

Спросить нейросеть об этой модели

Отвечает Gemini 4 · переписка хранится только в этой вкладке

Комментарии