AuroraIMG2-100M

AuroraAI-Research выпустила модель генерации изображений 256×256 на основе flow-matching diffusion transformer. Denoiser на 100.6M параметров и текстовый энкодер на 44.9M обучены с нуля на одной NVIDIA RTX PRO 6000. Работает в латентном пространстве FLUX.2 VAE, а в пиксели латенты переводит замороженный FLUX.2 small decoder.

⚙ Ключевые особенности

• 🖥 Фиксированное разрешение 256×256, латент 128×16×16 и 256 токенов без patchify.
• 🧩 Denoiser — deep-thin DiT: 24 блока шириной 512, cross-attention и Mix-FFN.
• 🔤 Текстовый энкодер: 12-слойный bidirectional transformer, byte-level BPE на 16 384 токена, до 190 токенов.
• 🔄 Обучены с нуля только 145.5M параметров; декодер на 27.9M заморожен.
• 📊 GenEval 2: Soft-TIFA GM 10.80 и AM 48.62 против 6.00 / 36.03 у 50M-Preview.
• 💡 Подходит для изучения small-scale T2I, flow matching и файнтюнинга на скромном железе.

💻 Пример

from diffusers import DiffusionPipeline
pipe = DiffusionPipeline.from_pretrained(
    'AuroraAI-Research/AuroraIMG2-100M',
    custom_pipeline='AuroraAI-Research/AuroraIMG2-100M',
    trust_remote_code=True,
).to('cuda')
image = pipe('Vintage Yellow Enamel Tea Kettle with Black Handle and Spout', num_inference_steps=50, guidance_scale=4.0).images[0]