PERSIST
компактная модель для определения границ сцен в видео
2 мин чтенияобновлено
Модель решает задачу shot boundary detection (автоматический поиск склеек и переходов между кадрами в видеофайлах или наборе декодированных кадров). На выходе вы получаете точные интервалы сцен, разметку резких склеек и плавных переходов, а при необходимости — покадровые оценки вероятности. Архитектура размером всего 13.2M параметров основана на модифицированных компонентах MMAction2 и TransNetV2 и разработана исследователями из TU Wien, St. Pölten UAS и института им. Людвига Больцмана для конференции BMVC 2026. Инструмент пригодится разработчикам видеоредакторов, аналитикам медиаархивов и тем, кто готовит датасеты из длинных роликов.
Ключевые особенности
- Вес чекпоинта в формате FP32 safetensors составляет всего около 53 МБ, поэтому модель легко запускается даже на CPU.
- Распознаёт как резкие монтажные склейки (cut), так и плавные переходы (gradual transitions) в рамках одного прохода.
- Поддерживает пакетную обработку целых папок с видео, рекурсивный обход подкаталогов и экспорт результатов в JSON и CSV.
- Умеет работать полностью офлайн после предварительного скачивания весов в локальный кэш.
Что можно сделать
- Автоматически нарезать длинные видеоролики и фильмы на отдельные сцены при подготовке обучающих датасетов для видеомоделей.
- Встроить в пайплайн обработки видео для анализа монтажного ритма, индексации архивов или поиска нужных фрагментов.
- Запускать через консоль или Python-скрипты на серверах без видеокарты благодаря нативной поддержке CPU.
Пример
import persist_sbd
model = persist_sbd.load()
result = model.detect("video.mp4")
print(result.shots) # [(first_frame, last_frame), ...]
result.save_json("shots.json")
Подробнее
Параметры: 13.2M (около 53 МБ в FP32 safetensors), чекпоинт seed11, epoch-10.Порог инференса по умолчанию: 0.5 (валидационный порог из конфига — 0.68).
Железо и ПО: работает на CUDA или CPU, требует Python 3.10+, декодирование по умолчанию через PyAV.
Лицензия: Apache-2.0.










Комментарии