IU-CXR Report LoRA
синтетические рентген-снимки по тексту отчёта
Три LoRA-адаптера для UNet Stable Diffusion 1.5, обученные генерировать синтетические фронтальные рентгенограммы грудной клетки по полному тексту отчёта. Автор — elifnuraygun; это релиз-кандидат 0.1.0rc1 для исследований и воспроизводимой оценки. CLIP-текстовый энкодер заморожен, а исходный снимок на инференсе не нужен.
✨ Ключевые особенности
- 🦾 Три независимых адаптера (seed 42, 1337, 2026) по 6 377 472 параметра, rank/alpha 32/32.
- 👁 Полный отчёт упаковывается в несколько CLIP-окон по 75 content-token; каждое дополняется до 77 позиций и кодируется отдельно, представления конкатенируются для cross-attention UNet.
- ✅ Текстовый энкодер не обучается: trainable parameters = 0; адаптеры меняют проекции
to_q,to_k,to_v,to_out.0. - 🔥 Дефолт генерации: 512×512, DDIM 30 шагов, CFG 7.5, eta 0; BF16 UNet/CLIP, FP32 адаптеры и FP32 VAE.
- 🧘 Нужен отдельный код инференса; обычный
StableDiffusionPipelineс коротким промптом не эквивалентен.
👁 Пример
from huggingface_hub import snapshot_download
from iu_cxr.pipeline import IUReportGenerator
model_dir = snapshot_download("elifnuraygun/iu-cxr-report-lora")
generator = IUReportGenerator(model_dir, training_seed=42)
image, metadata = generator.generate(
"Frontal chest radiograph. The cardiac silhouette is enlarged.",
generation_seed=202601,
)Подробнее
Три адаптера: seed 42, 1337 и 2026; по 6 377 472 параметра, rank/alpha 32/32.Обучение: только IU X-Ray, 2 512 training-case draws на эпоху, 5 эпох.
Дефолт: 512×512, DDIM 30 шагов, CFG 7.5; нужна BF16-совместимая CUDA GPU.
Не для диагностики: возможны неверная анатомия, пропущенная или выдуманная патология.








Комментарии