sd-turbo-phi-lattice-v2

Это второй выпуск оптимизированной сборки stabilityai/sd-turbo: 866M UNet прошёл посттренировочную оптимизацию phi-lattice-v2 и калибровку масштабов со взвешиванием по важности. В репозитории лежат 4-битный packed-архив UNet на 459.4 MB и стандартные float16 safetensors на 1.65 GB для diffusers.

🔥 Ключевые особенности

• 🔥 4-битный UNet занимает 459.4 MB — в 7.18 раза меньше FP32-версии на 3,303 MB.
• 💻 Два формата весов: bit-packed uint8 4-bit и обычный float16 safetensors на 1.65 GB.
• 📱 3-bit Android SSIM — 0.4032 против 0.3520 у uniform и 0.3812 у phi-lattice v1.
• ✔ 4-bit SQNR — 18.67 dB; разреженность — 10.45%, обнулено 89M параметров.
• 🌎 Генерация через diffusers при num_inference_steps=2 и guidance_scale=0.0.

💻 Пример

import torch
from diffusers import AutoPipelineForText2Image

pipe = AutoPipelineForText2Image.from_pretrained(
    "ununununununununununununununununununun/sd-turbo-phi-lattice-v2",
    torch_dtype=torch.float16
).to("cuda")
image = pipe("Close-up portrait of a futuristic porcelain android with golden geometric filigree circuits, soft studio rim lighting, sharp focus", num_inference_steps=2, guidance_scale=0.0).images[0]

Подробнее

4-bit UNet: 459.4 MB против 3,303 MB у FP32.
4-bit SQNR: 18.67 dB; 3-bit Android SSIM: 0.4032.
Разреженность: 10.45%, обнулено 89M параметров.
FP16-версия UNet: 1.65 GB.