chroma-h3

chroma-h3 — image- («stills») fine-tune модели MiniMaxAI/MiniMax-H3 от lodestones. Это полный H3 diffusers-пайплайн, где fine-tune влит в transformer/ в bf16, а Qwen3-VL text encoder, tokenizer, processor, video/audio VAEs и scheduler оставлены без изменений. В метаданных указано около 33,12 млрд параметров.

🔮 Ключевые особенности

• 🖼 Корневая модель — готовый merged-пайплайн для генерации одного кадра примерно на 1 MP.
• 🔮 lora/lora.safetensors — тот же fine-tune как LoRA на base H3 transformer: fp32, rank 256, alpha 256, strength 1; затрагивает FFN в блоках transformer и token-refiner.
• ⏩ lora/lora_dmd8_student.safetensors — few-step DMD-студент (12 000 обновлений, дистилляция при CFG 3) для merged-модели этого репозитория: plain Euler, CFG 1, 4 или 8 шагов; shift 3 для stills и shift 12 для видео.
• ✨ lora/lora_vspace_dmd8.safetensors — та же few-step-модель одной LoRA, но для стоковой MiniMax-H3, не для merged-трансформера: внутри уже есть fine-tune и DMD-студент.
• 📚 LoRA rank 256 / alpha 256 обучена только на feed-forward Linears всех transformer-блоков и token-refiner; attention, AdaLN и embeddings не трогали.
• 🎧 Во время обучения в image-режиме audio AdaLN срез отбрасывался; в merged-модели он сохранён без изменений.

💻 Пример

Сценарий из карточки: сгенерировать один кадр (1 latent frame) примерно на 1 MP. Для merged-модели нужен classifier-free guidance: CFG ~3 с пустым negative prompt и около 30 шагов Euler при shift 3. Для few-step LoRA — plain Euler, CFG 1, 4 или 8 шагов; shift 3 для stills, shift 12 для видео.

Подробнее

Бенчмарков в карточке нет.
Обучение: 13 605 обновлений, глобальный batch 48 изображений, lr 0.0001, flow matching, timestep shift 3.0, aspect-ratio buckets около 1024², 10% empty-prompt dropout.
Ограничение: merged fine-tune больше не ведёт себя как guidance-distilled — нужен CFG ~3 и ~30 шагов Euler; few-step LoRA обучены только на stills, но переносятся на видео.
VRAM и требования к железу в карточке не указаны.