sd-turbo-phi-lattice-v2-gecko
4-битная сборка SD-Turbo
2 min readupdated
Сжатая 4-битная версия популярной быстрой модели генерации изображений stabilityai/sd-turbo от автора ununununununununununununununununununun для библиотеки diffusers. В этой сборке по методу phi-lattice v2-gecko квантованы линейные слои (Linear layers) сразу двух ключевых компонентов — генератора UNet и текстового энкодера CLIP Text Encoder. По сравнению с предыдущим вариантом квантования plain v2 новинка заметнее ближе к оригинальной точности FP16 по метрике PSNR (пиковое отношение сигнала к шуму — показатель схожести сжатой картинки с эталоном). Подойдёт тем, кто хочет запускать быструю генерацию картинок в условиях жёсткой экономии видеопамяти.
Ключевые особенности
- Квантование в 4 бита по схеме
phi-lattice v2-geckoдляUNetиCLIP Text Encoder. - Средний прирост точности
+0.58 dBпо метрике PSNR относительно прошлой 4-битной версииplain v2(17.71 dB против 17.13 dB). - Наибольшее улучшение зафиксировано на портретах (
+1.81 dBна тестовом промпте Cybernetic Portrait). - В репозитории приложен файл
provenance.jsonс контрольной суммой SHA-256 и метаданными оценки.
Что можно сделать
- Запустить локальную генерацию изображений на базе
stabilityai/sd-turboчерезdiffusersпри ограниченном объёме видеопамяти. - Сравнить визуальное качество 4-битной версии с оригинальной моделью в
FP16на собственных текстовых запросах.
Пример
В карточке приведены замеры качества на четырёх тестовых сценах в сравнении с FP16: Crystal Spiral (16.84 dB), Cybernetic Portrait (17.36 dB), Architectural Cathedral (19.34 dB) и Botanical Phyllotaxis (17.31 dB).
Подробнее
Базовая модель: stabilityai/sd-turbo (diffusers)Средний PSNR против FP16: 17.71 dB (+0.58 dB к plain v2)
Небольшое снижение относительно plain v2 отмечено только на сцене Architectural Cathedral (-0.42 dB)
Системные требования к VRAM и готовый код запуска в карточке не указаны










Comments