К содержимому

Установка модели с LoRA одной командой

Найдите модель — языковую, для картинок и видео, робототехники или любую другую, — добавьте LoRA, сделанные для неё, выберите видеокарту. Внизу появится одна команда, которая всё поставит.

1. Модель

Готовые сборки ComfyUI

Для этих семей — официальные файлы Comfy-Org в нужной точности.

3. LoRA

Выбрано: 1

Отметьте нужные, до 12.

4. Видеокарта и точность

Ваша команда

Для этой модели нет готового рецепта запуска: скрипт скачает веса и LoRA, как запускать — в карточке модели.

Нужно ≈ 3.9 GB видеопамяти, у вас 24 GB. Влезает.

Подойдёт A30 на Massed Compute — $0.26 в час с купоном.Открыть Massed Compute
HF_TOKEN

В начале скрипта строки для токенов — вставьте свои между кавычками.

Hugging Face: одна из моделей закрыта (gated) — примите условия на её странице и создайте токен на huggingface.co/settings/tokens.

#!/usr/bin/env bash
# tiny-aya-global
# ===== Токены: вставьте свои между кавычками =====
export HF_TOKEN=""        # huggingface.co/settings/tokens — для закрытых моделей
# ==========================================
# Драйвер NVIDIA: для CUDA 13 нужен 580+. Если старее или нет — ставится свежий nvidia-open (оставить свой: KEEP_DRIVER=1)
DRV=$(nvidia-smi --query-gpu=driver_version --format=csv,noheader 2>/dev/null | head -1 | cut -d. -f1)
case "$DRV" in ""|*[!0-9]*) DRV=0 ;; esac
if [ "$DRV" -lt 580 ] && [ -z "${KEEP_DRIVER:-}" ]; then
  . /etc/os-release && \
  curl -fsSLO "https://developer.download.nvidia.com/compute/cuda/repos/ubuntu${VERSION_ID//./}/x86_64/cuda-keyring_1.1-1_all.deb" && \
  sudo dpkg -i cuda-keyring_1.1-1_all.deb && rm -f cuda-keyring_1.1-1_all.deb && \
  sudo apt-get update && \
  sudo DEBIAN_FRONTEND=noninteractive apt-get install -y nvidia-open || \
  { echo "Драйвер NVIDIA поставить не удалось: смотрите ошибку выше. Чтобы оставить текущий, запустите с KEEP_DRIVER=1."; exit 1; }
  echo "Драйвер NVIDIA обновлён. Перезагрузите машину (sudo reboot) и запустите этот же скрипт ещё раз."
  exit 0
fi
curl -LsSf https://astral.sh/uv/install.sh | sh
source "$HOME/.local/bin/env"
uv tool install "huggingface_hub[cli]"
# Модель
hf download CohereLabs/tiny-aya-global --local-dir ~/models/tiny-aya-global
# LoRA (1)
hf download atharvgaur18/actionproof-grpo-tiny-v2-llm-judge-s0 --local-dir ~/models/loras/atharvgaur18__actionproof-grpo-tiny-v2-llm-judge-s0
# Как запускать — в карточке модели: https://huggingface.co/CohereLabs/tiny-aya-global