AuroraIMG2-50M-Preview

AuroraIMG2-50M-Preview от AuroraAI-Research — компактная text-to-image модель с фиксированным разрешением 256×256. В основе — flow-matching diffusion transformer на 50.4M параметров и text encoder на 12.6M, обученные с нуля; декодер FLUX.2 small заморожен и используется без изменений. Это Preview-релиз.

🧩 Ключевые особенности

• 🧩 Денойзер DiT 50.4M + text encoder 12.6M, обучены совместно с нуля.
• ⚡ 10 часов обучения на 1× NVIDIA RTX PRO 6000: 247 805 шагов, batch size 256.
• 🎯 256×256, Euler 50 шагов и CFG 3.0; 20 шагов — быстрый режим.
• 🔬 Latent flow matching (rectified flow), Muon + AdamW, EMA-веса в релизе.
• 🌐 Только английский, промпт до 62 токенов; разрешение фиксированное.

💡 Пример

import torch
from diffusers import DiffusionPipeline
pipe = DiffusionPipeline.from_pretrained(
    "AuroraAI-Research/AuroraIMG2-50M-Preview",
    custom_pipeline="AuroraAI-Research/AuroraIMG2-50M-Preview",
    trust_remote_code=True,
).to("cuda")
image = pipe("a red fox in a snowy forest at sunrise", num_inference_steps=50, guidance_scale=3.0).images[0]

Подробнее

GenEval 2: Soft-TIFA GM 6.00, AM 36.03.
Обученные части — 63.0M; декодер — 27.9M; денойзер — 50.4M.
Слабее всего: count, position и verb; лица, руки и текст тоже слабые.
Лицензия Apache 2.0; у тренировочных данных свои условия.