HomeIMG-1.2B-PL-epoch22-OPD300
польско-английская text-to-image модель с CFG, вшитым в скорость
Экспериментальная text-to-image модель на 1,24 млрд параметров от cpral. Это HomeIMG-1.2B-PL-epoch22 после короткой on-policy дистилляции (300 шагов, около часа) от FLUX.2 [klein] base 4B; работает в латентном пространстве FLUX.2 и поддерживает польский и английский.
🗣 Ключевые особенности
- 🗣 CFG 4 учителя «вшит» в скорость ученика: генерация идёт с
guidance_scale=1.0, один проход денойзера на шаг вместо двух. - 🏃♂ Заявлено примерно 2× быстрее базовой модели с CFG 3 при похожей визуальной оценке.
- 🤔 Это не дистилляция числа шагов: сэмплирование всё ещё 50 шагов Euler.
- 📝 300 шагов × 48 промптов = 14 400 траекторий и 115 200 состояний, оценённых учителем.
- ⌨ 50% промптов ученика на польском; учитель всегда получает английский оригинал.
- 👍 Обучение только на 256×256; другие разрешения работают слабо.
⌨ Пример
import torch
from diffusers import DiffusionPipeline
REPO = "cpral/HomeIMG-1.2B-PL-epoch22-OPD300"
pipe = DiffusionPipeline.from_pretrained(REPO, custom_pipeline=REPO, trust_remote_code=True).to("cuda")
image = pipe("rudy kot śpiący na parapecie, fotografia", num_inference_steps=50, guidance_scale=1.0,
generator=torch.Generator("cuda").manual_seed(0)).images[0]
image.save("kot.png")Подробнее
OPD loss снизился с 0,32 до ~0,19; val/loss вырос с 0,6170 до 0,6594 — ожидаемо, метрика flow matching больше не описывает модель.Сравнение только «на глаз» по 8 промптам: похожее качество при половине стоимости инференса; на некоторых промптах хуже. FD-DINOv2 не измерялся.
Обучение: 8× RTX 3090 Ti, около 69 минут. Модель экспериментальная, только 256×256; надписи и лица могут быть плохими. Возможна меньшая вариативность, не измерялась.






Комментарии