Naruto LoRA rank 16
SD 1.5 сдвигают в аниме-домен
1 min readupdated
Это LoRA-адаптер rank 16 для stable-diffusion-v1-5, обученный на датасете lambdalabs/naruto-blip-captions (1221 пример). Автор — 99AnshikaGoel; адаптер сделан как учебный эксперимент по parameter-efficient fine-tuning и сравнивается с base-моделью и rank-4 версией.
Ключевые особенности
- LoRA rank 16, alpha 16; обучаемых параметров — 3 188 736 (0.369619%).
- Целевые модули:
to_q,to_k,to_v,to_out.0; файл адаптера весит 12.2003 MB. - Обучение: AdamW, lr 0.0001, 1000 optimizer steps, effective batch size 4, fp16, gradient checkpointing.
- За 56.01 минуты и 0.9336 GPU-hours; пик выделенной GPU-памяти — 2.5116 GB.
- Сдвигает выбранные in-domain генерации в Naruto/anime-стиль, но не гарантирует улучшение общего prompt-alignment.
Пример
import torch
from diffusers import StableDiffusionPipeline
pipe = StableDiffusionPipeline.from_pretrained(
'stable-diffusion-v1-5/stable-diffusion-v1-5',
torch_dtype=torch.float16,
)
pipe.load_lora_weights('99AnshikaGoel/data266-lab2-part2-run2-lora-rank16')
image = pipe('a masked ninja beside a red torii gate', num_inference_steps=30, guidance_scale=7.5).images[0]
Подробнее
KID in-domain: 0.034975 у rank 16 против 0.144058 у base — ниже лучше.CLIP alignment overall: base 0.324159, rank 16 0.312618; в слепом сравнении base выбирали 41.33% раз, rank 16 — 20.00%, ничья — 38.67%.
Пик GPU-памяти при обучении — 2.5116 GB; 3 из 40 официальных изображений отфильтрованы safety checker.
Ограничения: машинные BLIP-подписи, узкий Naruto-домен, лицензия датасета не указана, production-валидации нет.










Comments