К содержимому
Другое

Sightline-heads

драфт-головки для быстрого ускорения генерации SVG и Lottie

2 мин чтенияобновлено

Репозиторий содержит набор обученных весов (драфт-головок) для реализации метода Sightline, который ускоряет модели генерации векторной графики без изменения качества их вывода. Метод основан на Speculative Decoding (спекулятивном декодировании, когда небольшая вспомогательная модель быстро предлагает окно токенов, а базовая модель проверяет их за один шаг). В репозитории представлены конфигурации для таких семейств моделей, как OmniSVG, InternSVG, SVGen, HiVG, OmniLottie и StarVector с размером блоков 16 и 32. Инструмент пригодится исследователям и инженерам, работающим с оптимизацией и ускорением векторной генерации.

Ключевые особенности

  • Ускорение генерации: Драфт-головки позволяют значительно сократить время генерации SVG и Lottie анимаций.
  • Широкая поддержка: Готовые веса для 11 различных настроек и архитектур (OmniSVG, SVGen, StarVector и др.).
  • Формат safetensors: Все веса сохранены в современном формате в точности со статьей и результатами бэнчмарков.
  • Гибкие окна проверки: Доступны варианты с размером блока 32 (для метода Sightline) и блока 16 (для базовых подходов DFlash и DDTree).

Что можно сделать

  • Ускорить генерацию SVG: Подключить головки к соответствующим целевым моделям (например, OmniSVG-8B или StarVector) для быстрого перевода текста и изображений в вектор.
  • Генерировать анимацию Lottie: Использовать головки для модели OmniLottie-3B в пайплайнах генерации векторной анимации.
  • Провести бенчмаркинг: Сравнить производительность с методами DFlash и DDTree, используя скрипты из официального репозитория Sightline.

Пример

Загрузка нужных весов через командную строку и запуск оценки для текстовых моделей:

hf download lizaiyuan0804/Sightline-heads --include "omnisvg-8b/text-to-svg-b32/*" --local-dir heads
python3 eval/eval_text.py --head heads/omnisvg-8b/text-to-svg-b32 --designs D1-top16-N127 
    --sets bench --modes greedy,sample --time-ar --out $SIGHTLINE_OUT/ours
ПодробнееАрхитектура: 5 слоев трансформера, использующих скрытые состояния базовой модели без собственного эмбеддинга.
Обучение: на датасетах MMSVG-2M и MMLottie-2M под лицензией CC BY-NC-SA 4.0.
Размер весов: от 0.7 ГБ до 3.2 ГБ в зависимости от целевой модели (в формате bfloat16).
Обсудить Telegram 0

Запустится ли?

Запустится в BF16

Влезает без сжатия.

  • BF16веса 3.0 GB · готовые файлы3.8 GB
  • FP8 / INT8рекомендуемвеса 1.5 GB2.2 GB
  • 4-bitвеса 0.8 GB1.4 GB

Совет: берите 8-bit.FP8 / INT8 почти не отличается по качеству от полной точности (разница в пределах процента), а памяти занимает вдвое меньше и на RTX 40/50, H100 работает быстрее. Полную точность есть смысл брать только для дообучения.

Что взять под эту модель

Massed ComputeОткрыть Massed Compute

Своя видеокарта: FP8 / INT8 — от RTX 2060 · BF16 — от RTX 2060

Почасовые цены Massed Compute на ноябрь 2026. Цена со скидкой — с промокодом при оплате.

Оценка: веса плюс рабочая память. Длинные ролики, высокое разрешение и большой контекст требуют больше.

Запуск на Massed Compute

Скрипт скачает модель на арендованную машину. Как её запустить — в карточке модели.

  1. 1. Арендуйте машину с подходящей видеокартой

    Открыть Massed Compute
  2. 2. Вставьте скрипт в терминал машины

    Подключитесь по SSH (команда есть в панели Massed Compute) или откройте терминал на рабочем столе машины.

    HF_TOKEN / CIVITAI_TOKENВ начале скрипта строки для токенов: вставьте свой между кавычками. Токен Hugging Face нужен для закрытых моделей, токен Civitai — для моделей с Civitai.

    # lizaiyuan0804/Sightline-heads
    mkdir -p ~/models
    curl -LsSf https://astral.sh/uv/install.sh | sh
    source "$HOME/.local/bin/env"
    uv tool install "huggingface_hub[cli]"
    hf download lizaiyuan0804/Sightline-heads --local-dir ~/models/Sightline-heads
    # Модель в папке ~/models. Как её запускать, написано в карточке модели (ссылка выше).
    Добавить ещё LoRA к Sightline-heads
  3. 3. Пользуйтесь

    Модель в папке ~/models. Как её запускать, написано в карточке модели (ссылка выше).

Не забудьте остановить машину в панели, когда закончите: оплата идёт поминутно, пока она включена.

Как ускорить

Подобрано под тип модели. Выберите своё железо в блоке выше — покажем то, что подходит именно вам.

  • FlashAttention 44.0.0b40от 18 ноября 2026новая версия

    самое быстрое точное внимание на B200

    Ядра для Blackwell (пока бета). Точное внимание без квантования — подходит для всего, включая LLM.

    Как включить: pip install flash-attn-4; vLLM и SGLang подхватывают сами.

    Предыдущие поколения (2)
    • FlashAttention 3 — Версия для Hopper (H100/H200) с FP8.
    • FlashAttention 2 — Стандарт для RTX 30/40/50 и A100: точное внимание без лишней памяти на длинных контекстах.
  • torch.compile2.15.0от 28 октября 2026новая версия

    10–30% бесплатно

    Компилирует модель под вашу видеокарту. Первый запуск дольше, дальше быстрее.

    Как включить: model = torch.compile(model); в ComfyUI — узел TorchCompileModel.

Семья модели

Новые посты про версии Sightline-heads — сжатые, дообучения, LoRA — появятся в колокольчике.

У этой модели пока нет известных родственников. Все производные на Hugging Face

О модели

lizaiyuan0804/Sightline-heads
Автор
lizaiyuan0804
Категория
Другое
Дата выхода
На сайте

На сайте

Hugging Face

00

Спросить нейросеть об этой модели

Отвечает Gemini 4 · переписка хранится только в этой вкладке

Комментарии