SDXL-Turbo-LiteRT
SDXL Turbo на CPU через LiteRT
2 min read
SDXL-Turbo-LiteRT — LiteRT-конвертация stabilityai/sdxl-turbo от frankdu, созданная на основе исходных весов Stability AI. Это не языковая модель и не .litertlm-чекпоинт, а набор Float32-графов для text-to-image пайплайна: CLIP, UNet, Euler ancestral sampler и VAE. Генерация рассчитана на CPU, выход 512×512 при 4 шагах сэмплирования.
Ключевые особенности
- Float32-графы для CLIP text encoding, UNet denoising, Euler ancestral sampler и VAE decoding.
- Запуск на CPU; графы загружаются по одному.
- Выход 512×512 и 4 шага сэмплирования; scheduler и число шагов фиксирует manifest.
- Портативный bundle, не AOT-компиляция под Google Tensor TPU; целочисленный tensor I/O сохранён.
- manifest.json фиксирует план выполнения тензоров и хэши графов, токенизатора и констант.
Пример
hf download frankdu/SDXL-Turbo-LiteRT --local-dir SDXL-Turbo-LiteRT
cd SDXL-Turbo-LiteRT
python3.12 -m venv .venv
. .venv/bin/activate
pip install -r requirements.txt
python run_portable.py --model-dir . --prompt "a red apple on a wooden table, studio lighting" --seed 42 --out output.png
Подробнее
Валидация: полная генерация на desktop LiteRT 2.3.0 CPU (Linux x86_64); пример визуально проверен как узнаваемое яблоко, но это smoke-check, а не бенчмарк качества или скорости.Android CPU/GPU, требования к памяти телефона и Google Tensor TPU не валидировались.
Загрузка графов, компиляция и копирование host-тензоров могут быть дорогими; для Android запускать вне main thread.
Веса — под Stability AI Community License, не Apache 2.0; новые скрипты — под CODE_LICENSE.










Comments