К содержимому
Другое

MiniMax-H3 Prompt Rewriter (Qwen3.8-27B-FL2VA)

умный рерайтер промптов для видео и аудио

2 мин чтения

Модель предназначена для автоматического улучшения и доработки текстовых промптов перед генерацией видео и звука в системе MiniMax-H3. Она умеет работать как с чистым текстом, так и с визуальными референсами — начальным и конечным кадрами будущего ролика, помогая точнее описать переход и динамику сцены. В основе лежит крупная языковая модель Qwen3.8-27B (27.36 млрд параметров), дообученная методом SFT (контролируемое дообучение на примерах) командой lightx2v. Инструмент пригодится разработчикам и авторам, которые хотят получать более детализированные и предсказуемые результаты при генерации видео со звуком.

Ключевые особенности

  • Четыре режима генерации: поддержка чистого текста (T2VA), опоры на первый кадр (I2VA), последний кадр (L2VA) или сразу оба кадра (FL2VA).
  • Рассуждения перед ответом: модель генерирует не только улучшенный промпт, но и цепочку рассуждений (reasoning), сохраняя результат в JSON.
  • Длинный контекст: окно контекста составляет 32 768 токенов с лимитом на генерацию ответа до 16 384 токенов.
  • Готовность к продакшену: адаптирована для быстрого развёртывания через движок vLLM с помощью готовых bash-скриптов.

Что можно сделать

  • Улучшить качество видеогенерации: встроить рерайтер как промежуточный шаг в пайплайн создания роликов для MiniMax-H3, чтобы превращать короткие идеи в подробные сценарии со звуковым сопровождением.
  • Склеивать сцены по ключевым кадрам: подавать на вход первый и последний кадры (режим FL2VA), чтобы модель сама описала логичное движение и звук между ними.
  • Автоматизировать контент-пайплайны: подключить модель по API через vLLM в локального бота или сервис генерации видео с заданием длительности (DURATION).

Пример

pip install vllm requests pillow qwen-vl-utils
bash vllm_server.sh
bash post_vllm.sh
ПодробнееБазовая модель: Qwen3.8-27B (27.36B параметров), метод обучения — SFT.
В релизе также доступна более лёгкая версия на базе Qwen3.5-9B.
Для запуска требуется GPU и окружение с vLLM; по умолчанию сервер использует GPU 0 и порт 8000.
Результат инференса (улучшенный промпт, рассуждения, параметры и тайминги) сохраняется в infer_outputs/result.json.
Обсудить 2 7,4 тыс.

Запустится ли?

Запустится в 4-bit

Полная точность не влезет, но сжатая версия поместится — качество почти не страдает до 8 бит, заметнее на 4 битах.

  • BF16веса 51 GB · готовые файлы57 GB
  • FP8 / INT8рекомендуемвеса 25 GB29 GB
  • 4-bitвеса 14 GB16 GB

Совет: берите 8-bit.FP8 / INT8 почти не отличается по качеству от полной точности (разница в пределах процента), а памяти занимает вдвое меньше и на RTX 40/50, H100 работает быстрее. Полную точность есть смысл брать только для дообучения.

Оценка: веса плюс рабочая память. Длинные ролики, высокое разрешение и большой контекст требуют больше.

Запуск на Massed Compute

Скрипт скачает модель на арендованную машину. Как её запустить — в карточке модели.

  1. 1. Арендуйте машину с подходящей видеокартой

    Открыть Massed Compute
  2. 2. Вставьте скрипт в терминал машины

    Подключитесь по SSH (команда есть в панели Massed Compute) или откройте терминал на рабочем столе машины.

    HF_TOKEN / CIVITAI_TOKENВ начале скрипта строки для токенов: вставьте свой между кавычками. Токен Hugging Face нужен для закрытых моделей, токен Civitai — для моделей с Civitai.

    # lightx2v/MiniMax-H3-Prompt-Rewriter-Qwen3.8-27B-FL2VA
    mkdir -p ~/models
    curl -LsSf https://astral.sh/uv/install.sh | sh
    source "$HOME/.local/bin/env"
    uv tool install "huggingface_hub[cli]"
    hf download lightx2v/MiniMax-H3-Prompt-Rewriter-Qwen3.8-27B-FL2VA --local-dir ~/models/MiniMax-H3-Prompt-Rewriter-Qwen3.8-27B-FL2VA
    # Модель в папке ~/models. Как её запускать, написано в карточке модели (ссылка выше).
  3. 3. Пользуйтесь

    Модель в папке ~/models. Как её запускать, написано в карточке модели (ссылка выше).

Не забудьте остановить машину в панели, когда закончите: оплата идёт поминутно, пока она включена.

Как ускорить

Подобрано под тип модели. Выберите своё железо в блоке выше — покажем то, что подходит именно вам.

  • FlashAttention 44.0.0b40от 18 ноября 2026новая версия

    самое быстрое точное внимание на B200

    Ядра для Blackwell (пока бета). Точное внимание без квантования — подходит для всего, включая LLM.

    Как включить: pip install flash-attn-4; vLLM и SGLang подхватывают сами.

    Предыдущие поколения (2)
    • FlashAttention 3 — Версия для Hopper (H100/H200) с FP8.
    • FlashAttention 2 — Стандарт для RTX 30/40/50 и A100: точное внимание без лишней памяти на длинных контекстах.
  • torch.compile2.15.0от 28 октября 2026новая версия

    10–30% бесплатно

    Компилирует модель под вашу видеокарту. Первый запуск дольше, дальше быстрее.

    Как включить: model = torch.compile(model); в ComfyUI — узел TorchCompileModel.

Промпты для MiniMax H3

Все промпты

Готовые промпты с видео результата: копируйте и пробуйте.

Семья модели

Новые посты про версии MiniMax-H3-Prompt-Rewriter-Qwen3.8-27B-FL2VA — сжатые, дообучения, LoRA — появятся в колокольчике.

Сжатые версии 1Все на Hugging Face
Дообучения 2Все на Hugging Face

О модели

lightx2v/MiniMax-H3-Prompt-Rewriter-Qwen3.8-27B-FL2VA
Автор
lightx2v
Категория
Другое
Дата выхода
На сайте

На сайте

Hugging Face

7,4 тыс.2

Спросить нейросеть об этой модели

Отвечает Gemini 4 · переписка хранится только в этой вкладке

Комментарии