MiniMax-H3-FP4
квантованные веса видеомодели для RTX 50 серий
2 мин чтения
Модель представляет собой оптимизированную версию главной видеоархитектуры MiniMax H3 (Ref2VA transformer), переведённую в формат NVFP4 (E2M1) W4A4. Квантование (сжатие весов для экономии памяти) позволяет снизить вес основных компонентов с 66.28 ГБ до 37.48 ГБ и запустить генерацию референсных видео с аудиодорожкой на потребительской видеокарте RTX 5070 с 12 ГБ VRAM (видеопамяти). Решение предназначено для исследователей и энтузиастов с новейшими видеокартами NVIDIA архитектуры Blackwell, желающих локально работать с тяжёлыми видеогенераторами.
Ключевые особенности
- Экономия памяти: Снижение веса трансформера до ~37 ГБ благодаря NVFP4 с сохранением критических слоёв в BF16/FP32.
- Поддержка RTX 50: Адаптация под аппаратные тензорные ядра NVIDIA Blackwell (sm120).
- Режим Turbo: Ускоренная генерация за 8 шагов (turbo8) для быстрой проверки результатов.
- Кэширование AdaLN: Предварительно просчитанные ключи для разных шагов генерации, ускоряющие работу пайплайна.
Что можно сделать
- Генерация видео по картинке: Создать короткий видеоролик по референсному изображению с помощью скрипта запуска.
- Локальные эксперименты: Запустить тяжёлый видеогенератор на карте среднего уровня (RTX 5070 12GB) в разрешении 512p или выше с тайлингом.
Пример
python code/h3_video_job.py --ref ref.png --cond h3_cond_ref.pt --steps 8 --turbo 8 --frames 124 --size 512 --out out.mp4Подробнее
Бенчмарки: turbo8 (124ф / 512²) — ~203 с; 20 шагов — ~284 с.Железо: Требуется NVIDIA Blackwell (RTX 50 серии); на 40 серии и AMD нет поддержки FP4.
Ограничения: Не содержит текстовый энкодер (Qwen3-VL), VAE и токенизатор — их нужно брать из базового репозитория MiniMax-H3.














Комментарии