SDXL-Turbo-LiteRT

SDXL-Turbo-LiteRT — LiteRT-конвертация stabilityai/sdxl-turbo от frankdu, созданная на основе исходных весов Stability AI. Это не языковая модель и не .litertlm-чекпоинт, а набор Float32-графов для text-to-image пайплайна: CLIP, UNet, Euler ancestral sampler и VAE. Генерация рассчитана на CPU, выход 512×512 при 4 шагах сэмплирования.

📌 Ключевые особенности

• ⚡ Float32-графы для CLIP text encoding, UNet denoising, Euler ancestral sampler и VAE decoding.
• 🖥 Запуск на CPU; графы загружаются по одному.
• 📌 Выход 512×512 и 4 шага сэмплирования; scheduler и число шагов фиксирует manifest.
• ⚙ Портативный bundle, не AOT-компиляция под Google Tensor TPU; целочисленный tensor I/O сохранён.
• 🔍 manifest.json фиксирует план выполнения тензоров и хэши графов, токенизатора и констант.

💡 Пример

hf download frankdu/SDXL-Turbo-LiteRT --local-dir SDXL-Turbo-LiteRT
cd SDXL-Turbo-LiteRT
python3.12 -m venv .venv
. .venv/bin/activate
pip install -r requirements.txt
python run_portable.py --model-dir . --prompt "a red apple on a wooden table, studio lighting" --seed 42 --out output.png

Подробнее

✔ Валидация: полная генерация на desktop LiteRT 2.3.0 CPU (Linux x86_64); пример визуально проверен как узнаваемое яблоко, но это smoke-check, а не бенчмарк качества или скорости.
⚠ Android CPU/GPU, требования к памяти телефона и Google Tensor TPU не валидировались.
📌 Загрузка графов, компиляция и копирование host-тензоров могут быть дорогими; для Android запускать вне main thread.
© Веса — под Stability AI Community License, не Apache 2.0; новые скрипты — под CODE_LICENSE.