Eros-Max Transformer hybrid beta5

Это конвертация чекпоинта 10Eros-Max в формат diffusers для модели image-to-video на базе MiniMax-H3. Автор — ibyteohdear; размер — около 20,11 млрд параметров. В репозитории лежат сами веса трансформера, а не LoRA, поэтому мержить или патчить при загрузке ничего не нужно.

➕ Ключевые особенности

• ➕ Полные веса в дереве модулей diffusers: переименованы блоки и проекции, fused attn.qkv_proj разделён на to_q, to_k и to_v.
• 🔙 AdaLN свёрнут в rank-8-координаты; adaln_basis и adaln_mean поставляются в файле.
• 🔤 Выходная голова воспроизводит голову базовой модели с cos 0.996955; входные проекции совпадают в пределах шума хранения.
• ➖ Это не LoRA и не адаптер: чекпоинт уже в одном файле, runtime weight swap нужно отключить.
• 🔜 TURBO delta не встроена; обычные turbo LoRA применимы.

▶ Пример

import torch
from diffusers import AutoModel

transformer = AutoModel.from_pretrained(
    'ibyteohdear/10Eros-Max-Transformer_hybrid_beta5',
    trust_remote_code=True,
    dtype=torch.bfloat16,
)

Подробнее

Выходная голова: cos 0.996955 к базовой модели, rel L2 12.54%.
AdaLN: rank-8-приближение с ~1.5e-5 relative RMS; точно на сетке шагов сэмплера, вне неё — приближение.
Для загрузки нужен trust_remote_code=True: класс подтягивается через auto_map.
VAE, text encoder и schedulers берутся из базового репозитория; VRAM в карточке не указана.