К содержимому
Изображения

MiniMax-H3-Image fp8-nvfp4

быстрые квантованные версии под ComfyUI

2 мин чтенияобновлено

Репозиторий содержит две облегчённые версии диффузионного трансформера MiniMax-H3-Image для генерации изображений по тексту в ComfyUI, подготовленные автором LSDJesus на основе bf16-чекпоинта от Comfy-Org. Квантование (сжатие весов модели для экономии видеопамяти и ускорения работы) позволяет запускать тяжёлую модель локально: версия fp8 весит 21,0 ГБ, а формат NVFP4 сжимает её до 12,5 ГБ. Файлы полностью совместимы со стандартными воркфлоу и загрузчиками ComfyUI, выступая прямой заменой официальным int8 и w4a8 сборкам. Релиз пригодится владельцам видеокарт NVIDIA RTX 40 и 50 серий, которые хотят генерировать картинки в высоком разрешении (2048×2048) за 6 шагов.

Ключевые особенности

  • Высокая скорость на RTX 50: вариант NVFP4 выдаёт 3,4 шага в секунду в разрешении 2048×2048 на карте RTX PRO 6000 Blackwell, обгоняя официальные сборки int8 ConvRot (2,6 шага/с) и w4a8 (2,5 шага/с).
  • Два формата под разное железо: fp8_scaled (21,0 ГБ) нативно работает на RTX 40 и RTX 50 (2,1 шага/с), а nvfp4 (12,5 ГБ) оптимизирован под архитектуру Blackwell (RTX 50), но запускается и на других картах через эмуляцию в ComfyUI.
  • Аккуратное квантование: сжаты 200 линейных слоёв в 50 блоках трансформера (95,8% всех весов), при этом критически важные слои проекций, нормализации и настройки 6-шагового расписания PDD оставлены в исходной точности bf16.
  • Защита от искажений в fp8: для слоёв mlp.fc2 включено матричное умножение в полной точности (bf16), что убирает сильный дрейф композиции и искажения текста на изображениях.

Что можно сделать

  • Генерировать детализированные изображения 2048×2048: запускать быструю 6-шаговую генерацию по текстовым промптам, включая сцены с читаемым текстом и вывесками, используя стандартный шаблон MiniMax H3 Image в ComfyUI.
  • Заменить официальные веса без переделки графа: подставить minimax_h3_image_pruned_nvfp4.safetensors или fp8_scaled.safetensors в готовый воркфлоу от Comfy-Org вместо int8-версии для прироста скорости или экономии места на диске.

Пример

Для запуска обновите ComfyUI до версии 0.44 (с поддержкой MiniMax-H3-Image от 10 ноября 2026 года), скачайте текстовый энкодер (qwen3vl_32b_minimax_h3_nvfp4_awq или _int8_convrot) и VAE (minimax_h3_image_vae_fp16) из репозитория Comfy-Org. Поместите выбранный .safetensors файл в папку models/diffusion_models/, откройте встроенный шаблон MiniMax H3 Image и выберите модель в ноде Load Diffusion Model.

Подробнее Размеры и скорость (2048×2048, RTX PRO 6000 Blackwell): fp8_scaled — 21,0 ГБ (2,1 steps/s), NVFP4 — 12,5 ГБ (3,4 steps/s).
Требуется ComfyUI 0.44+ и внешние компоненты (текстовый энкодер Qwen3-VL 32B и VAE fp16).
Лицензия MiniMax-H3-Image Community License имеет территориальные ограничения (права предоставляются за пределами ЕС, Великобритании, Южной Кореи и США) и политику допустимого использования.
Примеры
Обсудить 15 23 тыс.

Запустится ли?

Запустится в FP8

Влезает без сжатия.

  • FP8рекомендуемвеса 20 GB · готовые файлы23 GB
  • 4-bitвеса 11 GB14 GB

Совет: берите 8-bit.FP8 почти не отличается по качеству от полной точности (разница в пределах процента), а памяти занимает вдвое меньше и на RTX 40/50, H100 работает быстрее. Полную точность есть смысл брать только для дообучения.

Что взять под эту модель

Massed ComputeОткрыть Massed Compute

Своя видеокарта: FP8 — от RTX 4090

Почасовые цены Massed Compute на ноябрь 2026. Цена со скидкой — с промокодом при оплате.

Оценка: веса плюс рабочая память. Длинные ролики, высокое разрешение и большой контекст требуют больше.

Запуск на Massed Compute

Готовый скрипт под машину, которую мы советуем выше: вставили — модель скачалась и запустилась.

  1. 1. Арендуйте RTX A6000

    $0.43 в час с купоном. При создании машины выберите образ Ubuntu.

    Открыть Massed Compute
  2. 2. Вставьте скрипт в терминал машины

    Подключитесь по SSH (команда есть в панели Massed Compute) или откройте терминал на рабочем столе машины.

    HF_TOKEN / CIVITAI_TOKENВ начале скрипта строки для токенов: вставьте свой между кавычками. Токен Hugging Face нужен для закрытых моделей, токен Civitai — для моделей с Civitai.

    #!/usr/bin/env bash
    # MiniMax-H3-Image-fp8-nvfp4
    set -e
    # Драйвер NVIDIA: для CUDA 13 нужен 580+. Если старее или нет — ставится свежий nvidia-open (оставить свой: KEEP_DRIVER=1)
    DRV=$(nvidia-smi --query-gpu=driver_version --format=csv,noheader 2>/dev/null | head -1 | cut -d. -f1)
    case "$DRV" in ""|*[!0-9]*) DRV=0 ;; esac
    if [ "$DRV" -lt 580 ] && [ -z "${KEEP_DRIVER:-}" ]; then
      . /etc/os-release && \
      curl -fsSLO "https://developer.download.nvidia.com/compute/cuda/repos/ubuntu${VERSION_ID//./}/x86_64/cuda-keyring_1.1-1_all.deb" && \
      sudo dpkg -i cuda-keyring_1.1-1_all.deb && rm -f cuda-keyring_1.1-1_all.deb && \
      sudo apt-get update && \
      sudo DEBIAN_FRONTEND=noninteractive apt-get install -y nvidia-open || \
      { echo "Драйвер NVIDIA поставить не удалось: смотрите ошибку выше. Чтобы оставить текущий, запустите с KEEP_DRIVER=1."; exit 1; }
      echo "Драйвер NVIDIA обновлён. Перезагрузите машину (sudo reboot) и запустите этот же скрипт ещё раз."
      exit 0
    fi
    curl -LsSf https://astral.sh/uv/install.sh | sh
    source "$HOME/.local/bin/env"
    # CUDA 13+ → int8_convrot (так советует Comfy-Org), иначе fp8_scaled
    CU=$(nvidia-smi | grep -oP 'CUDA Version: \K[0-9]+' || echo 12)
    [ "$CU" -ge 13 ] && TORCH=cu130 || TORCH=cu128
    [ -d ~/ComfyUI ] || git clone https://github.com/comfyanonymous/ComfyUI ~/ComfyUI
    cd ~/ComfyUI
    uv venv --python 3.12 --allow-existing && source .venv/bin/activate
    uv pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/$TORCH
    uv pip install -r requirements.txt "huggingface_hub[cli]"
    # Базовые файлы: MiniMax H3, 8-bit
    if [ "$CU" -ge 13 ]; then
      hf download Comfy-Org/MiniMax-H3 text_encoders/qwen3vl_32b_minimax_h3_int8_convrot.safetensors vae/minimax_h3_video_vae_fp16.safetensors vae/minimax_h3_audio_vae_fp32.safetensors --local-dir models
    else
      hf download Comfy-Org/MiniMax-H3 text_encoders/qwen3vl_32b_minimax_h3_nvfp4_awq.safetensors vae/minimax_h3_video_vae_fp16.safetensors vae/minimax_h3_audio_vae_fp32.safetensors --local-dir models
    fi
    # Основная модель: MiniMax-H3-Image-fp8-nvfp4
    hf download LSDJesus/MiniMax-H3-Image-fp8-nvfp4 minimax_h3_image_pruned_fp8_scaled.safetensors --local-dir models/diffusion_models
    # Запуск ComfyUI. Со своего компьютера: ssh -L 8188:localhost:8188 пользователь@IP, затем http://localhost:8188
    python main.py --listen 127.0.0.1 --port 8188
    Добавить ещё LoRA к MiniMax-H3-Image-fp8-nvfp4
  3. 3. Пользуйтесь

    Со своего компьютера: ssh -L 8188:localhost:8188 пользователь@IP-машины, затем откройте http://localhost:8188. Или откройте этот адрес в браузере на рабочем столе машины. Workflow для модели обычно лежит в её карточке на Hugging Face.

Не забудьте остановить машину в панели, когда закончите: оплата идёт поминутно, пока она включена.

Как ускорить

Подобрано под тип модели. Выберите своё железо в блоке выше — покажем то, что подходит именно вам.

  • SageAttention 3v2.2.0от 28 октября 2025

    ещё быстрее на RTX 50 / Blackwell

    FP4-внимание для Blackwell. Быстрее SageAttention 2, но авторы советуют 2-ю версию, когда важна точность.

    Как включить: Сборка из папки sageattention3_blackwell репозитория; в ComfyUI — через KJNodes.

    Предыдущие поколения (2)
    • SageAttention 2++ — Квантованное (INT8/FP8) внимание без заметной потери качества. Главное ускорение для генерации картинок и видео.
    • SageAttention 1 — Первая версия: INT8 для Q·K. Работает и на старых сборках, но 2++ быстрее и точнее.
  • FlashAttention 44.0.0b40от 18 ноября 2026новая версия

    самое быстрое точное внимание на B200

    Ядра для Blackwell (пока бета). Точное внимание без квантования — подходит для всего, включая LLM.

    Как включить: pip install flash-attn-4; vLLM и SGLang подхватывают сами.

    Предыдущие поколения (3)
    • FlashAttention 3 — Версия для Hopper (H100/H200) с FP8.
    • FlashAttention 2 — Стандарт для RTX 30/40/50 и A100: точное внимание без лишней памяти на длинных контекстах.
    • xFormers — Старый способ ускорить внимание, работает почти везде. Если есть Sage или Flash — они быстрее.
  • cache-dit (DBCache)v1.5.6от 20 ноября 2026новая версия

    1.5–3× при почти том же качестве

    Переиспользует результаты блоков между шагами диффузии. Поддерживает большинство DiT-моделей.

    Как включить: pip install cache-dit; одна строка cache_dit.enable_cache(pipe) для diffusers.

    Предыдущие поколения (2)
    • MagCache — Пропускает шаги по величине изменений. Точнее TeaCache без калибровки.
    • TeaCache — Первый массовый кэш шагов диффузии. Работает, но новые методы точнее.
  • Nunchaku (SVDQuant 4-bit)v1.2.1от 25 января 2026

    ≈3× быстрее и в 3.5× меньше памяти

    4-битные версии популярных моделей картинок почти без потери качества (FP4 на RTX 50).

    Как включить: Есть готовые веса для поддерживаемых моделей; в ComfyUI — ComfyUI-nunchaku.

  • torch.compile2.15.0от 28 октября 2026новая версия

    10–30% бесплатно

    Компилирует модель под вашу видеокарту. Первый запуск дольше, дальше быстрее.

    Как включить: model = torch.compile(model); в ComfyUI — узел TorchCompileModel.

Промпты для MiniMax H3

Все промпты

Готовые промпты с видео результата: копируйте и пробуйте.

Семья модели

Дообучение модели

MiniMaxAI/MiniMax-H3-Image
  1. MiniMax-H3основа семьи
  2. MiniMax-H3-Image
  3. MiniMax-H3-Image-fp8-nvfp4

Новые посты про версии MiniMax-H3 — сжатые, дообучения, LoRA — появятся в колокольчике.

Сжатые версии 12Все на Hugging Face
Дообучения 12Все на Hugging Face
LoRA и адаптеры 12Все на Hugging Face
Слияния 3Все на Hugging Face

О модели

LSDJesus/MiniMax-H3-Image-fp8-nvfp4
Автор
LSDJesus
Категория
Изображения
Дата выхода
На сайте

На сайте

Hugging Face

23 тыс.15

Спросить нейросеть об этой модели

Отвечает Gemini 4 · переписка хранится только в этой вкладке

Комментарии