HomeIMG-1.2B-PL-epoch40
промежуточный text-to-image на 96×96 px
2 мин чтенияобновлено
Диффузионная модель на 1,24 млрд параметров от cpral для генерации изображений по тексту на польском и английском. Это второй шаг curriculum-плана 64 → 96 → 128 → 256 px: чекпоинт дообучен 6 эпох в 96×96 px от весов EMA HomeIMG-1.2B-PL-epoch34.
Ключевые особенности
- Интерполяция позиций RoPE: при разном разрешении изображение покрывает одно и то же поле 64 позиции на сторону, поэтому сетка только уплотняется.
- Обучение под 96×96 px: это разрешение является тренировочным; другие квадратные размеры кратны 16, но качество меняется.
- EMA val/loss 0,7021 в 96 px на 4096 отложенных изображениях; метрика не сравнима с другими разрешениями.
- Ограничения: в 96 px мало места для деталей, лица, текст и мелкие объекты остаются лишь намёком; в 128 px иногда появляются копии объектов.
- 256 px пока не для использования: сцена повторяется, объекты распадаются на копии, есть смазы; нужен дальнейший трейнинг в 128 и 256 px.
Пример
import torch
from diffusers import DiffusionPipeline
REPO = "cpral/HomeIMG-1.2B-PL-epoch40"
pipe = DiffusionPipeline.from_pretrained(REPO, custom_pipeline=REPO, trust_remote_code=True).to("cuda")
image = pipe("rudy kot śpiący na parapecie, fotografia", num_inference_steps=50, guidance_scale=3.0, generator=torch.Generator("cuda").manual_seed(0)).images[0]
image.save("kot.png")
Подробнее
Данные: FLUX-Reason-6M-flux2-latents, 5,88 млн изображений, пересжатых в 96×96 px; 50% подписей на польском.Тренировка: 6 эпох, 8613 шагов × 4096 = 35,3 млн примеров, 8× RTX 3090 Ti, bf16, около 10 часов.
Лицензии: denoiser и код — Apache-2.0; text_encoder включает веса Poziomka-Baza на openmdw-1.1; vae — FLUX.2 small decoder, Apache-2.0.
Польские подписи — машинный перевод модели 2B; возможны смещения данных.
FD-DINOv2 не измерялся.








Комментарии