К содержимому

Установка модели с LoRA одной командой

Найдите модель — языковую, для картинок и видео, робототехники или любую другую, — добавьте LoRA, сделанные для неё, выберите видеокарту. Внизу появится одна команда, которая всё поставит.

1. Модель

Готовые сборки ComfyUI

Для этих семей — официальные файлы Comfy-Org в нужной точности.

3. LoRA

Под эту модель LoRA на сайте пока нет.

4. Видеокарта и точность

Ваша команда

Модель Diffusers: скрипт поставит окружение и создаст run.py, который загрузит модель со всеми LoRA и сгенерирует результат.

Нужно ≈ 35 GB видеопамяти, у вас 24 GB. Не влезает: выберите точность ниже или арендуйте карту побольше.

Подойдёт RTX A6000 на Massed Compute — $0.43 в час с купоном.Открыть Massed Compute
#!/usr/bin/env bash
# FLUX.2 [dev]
# Драйвер NVIDIA: для CUDA 13 нужен 580+. Если старее или нет — ставится свежий nvidia-open (оставить свой: KEEP_DRIVER=1)
DRV=$(nvidia-smi --query-gpu=driver_version --format=csv,noheader 2>/dev/null | head -1 | cut -d. -f1)
case "$DRV" in ""|*[!0-9]*) DRV=0 ;; esac
if [ "$DRV" -lt 580 ] && [ -z "${KEEP_DRIVER:-}" ]; then
  . /etc/os-release && \
  curl -fsSLO "https://developer.download.nvidia.com/compute/cuda/repos/ubuntu${VERSION_ID//./}/x86_64/cuda-keyring_1.1-1_all.deb" && \
  sudo dpkg -i cuda-keyring_1.1-1_all.deb && rm -f cuda-keyring_1.1-1_all.deb && \
  sudo apt-get update && \
  sudo DEBIAN_FRONTEND=noninteractive apt-get install -y nvidia-open || \
  { echo "Драйвер NVIDIA поставить не удалось: смотрите ошибку выше. Чтобы оставить текущий, запустите с KEEP_DRIVER=1."; exit 1; }
  echo "Драйвер NVIDIA обновлён. Перезагрузите машину (sudo reboot) и запустите этот же скрипт ещё раз."
  exit 0
fi
curl -LsSf https://astral.sh/uv/install.sh | sh
source "$HOME/.local/bin/env"
mkdir -p ~/gen && cd ~/gen
uv venv --python 3.12 --allow-existing && source .venv/bin/activate
CU=$(nvidia-smi | grep -oP 'CUDA Version: \K[0-9]+' || echo 12)
[ "$CU" -ge 13 ] && TORCH=cu130 || TORCH=cu128
uv pip install torch torchvision --index-url https://download.pytorch.org/whl/$TORCH
# Библиотеки
uv pip install diffusers transformers accelerate peft sentencepiece "huggingface_hub[cli]"
cat > run.py <<'PY'
import glob, os, sys, torch
from diffusers import DiffusionPipeline
pipe = DiffusionPipeline.from_pretrained("siyarajput/FLUX.2-dev-Backup", torch_dtype=torch.bfloat16)
DIRS = []
names = []
files = [f for d in DIRS for f in sorted(glob.glob(f"{d}/**/*.safetensors", recursive=True))]
for i, f in enumerate(files):
    pipe.load_lora_weights(os.path.dirname(f), weight_name=os.path.basename(f), adapter_name=f"l{i}")
    names.append(f"l{i}")
if names:
    pipe.set_adapters(names, adapter_weights=[1.0] * len(names))
pipe.enable_model_cpu_offload()
out = pipe(prompt=" ".join(sys.argv[1:]) or "a photo of a cat")
out.images[0].save("out.png")
PY
# Генерация: python run.py "ваш промт"
python run.py "your prompt"