Экспериментальный набор оптимизированных файлов от разработчика Kijai для запуска видеомодели MiniMax-H3 в среде ComfyUI. В репозиторий собраны квантованные (сжатые для экономии памяти и ускорения) версии весов в форматах w4a8 и w6a8, быстрые декодеры VAE и набор адаптированных LoRA (небольших надстроек над базовой моделью). Главное отличие от оригинальных сборок — переход на квантование активаций int8-convrot, которое заметно ускоряет декодирование видео. Сборка пригодится пользователям ComfyUI, которые хотят запускать MiniMax-H3 быстрее и экспериментировать с новыми дистилляциями и файнтюнами.
Ключевые особенности
Квантование w4a8 и w6a8: форматы с 4-битными и 6-битными весами и активациями int8-convrot для снижения нагрузки на видеопамять.
Ускоренные декодеры VAE: стандартный int8_convrot VAE ускоряет декодирование примерно в 2 раза, а облегчённый lynnreal_light_vae_int8_convrot быстрее ещё примерно в 1.3 раза.
Ускоряющие LoRA (PDMD и DMAD): конвертированные версии LoRA с пониженным рангом из проектов pdmd_2NFE_lora, pdmd_4NFE_lora и DMAD.
Извлечённая LoRA Singularity v2: адаптер с рангом 351 в формате bf16, извлечённый из полноразмерного файнтюна Minimax-h3_Singularity_ref2va_v2_int8.
Отдельный рефайнер 2K: файл minimax_h3_open_regenerate_2k_refiner, содержащий только модуль улучшения детализации без LMS и турбо-ускорителей.
Что можно сделать
Собирать быстрые пайплайны генерации видео на базе MiniMax-H3 в ComfyUI, экономя время на этапе декодирования кадров через VAE с int8-convrot.
Комбинировать квантованные модели ref2va с конвертированными LoRA (PDMD на 2 или 4 шага NFE, DMAD) для ускоренной генерации за меньшее число шагов.
Тестировать стилистику файнтюна Singularity v2 в виде отдельной LoRA или подключать open_regenerate_2k_refiner для доработки качества картинки.
Пример
Для максимального прироста скорости в ComfyUI соберите граф с весами формата w4a8 или w6a8 (например, minimax_h3_ref2va_pruned_w6a8_g32.safetensor), подключите int8_convrot VAE и при необходимости добавьте одну из LoRA (например, pdmd_4NFE_lora или minimax_h3_singularity_v2_lora_avg_rank_351_bf16.safetensors).
ПодробнееТребования: ComfyUI 0.31.0 для работы формата w4a8 и ComfyUI 0.36.0 для максимальной скорости int8_convrot VAE. Скорость: int8_convrot VAE ускоряет декодирование примерно в 2 раза; lynnreal_light_vae_int8_convrot быстрее своей базы примерно в 1.3 раза. Ограничения: формат w6a8 находится в разработке (WIP); ref lora (разница между fl2va и ref2va) — сугубо экспериментальный файл без подтверждённого сценария. Детали: извлечённая LoRA Singularity v2 даже при среднем ранге 351 передаёт лишь около 40–50% возможностей исходного полного файнтюна; open_regenerate_2k_refiner не включает LMS и lightx2v turbo.
Совет: берите 8-bit.INT8 почти не отличается по качеству от полной точности (разница в пределах процента), а памяти занимает вдвое меньше и на RTX 40/50, H100 работает быстрее. Полную точность есть смысл брать только для дообучения.
Подключитесь по SSH (команда есть в панели Massed Compute) или откройте терминал на рабочем столе машины.
HF_TOKEN / CIVITAI_TOKENВ начале скрипта строки для токенов: вставьте свой между кавычками. Токен Hugging Face нужен для закрытых моделей, токен Civitai — для моделей с Civitai.
# Kijai/MiniMax-H3-experimental
mkdir -p ~/models
curl -LsSf https://astral.sh/uv/install.sh | sh
source "$HOME/.local/bin/env"
uv tool install "huggingface_hub[cli]"
hf download Kijai/MiniMax-H3-experimental --local-dir ~/models/MiniMax-H3-experimental
# Модель в папке ~/models. Как её запускать, написано в карточке модели (ссылка выше).
Комментарии