К содержимому
Другое

vdc-denoiser-m128-v2

нейросеть для оценки парных копул и плотностей

2 мин чтенияобновлено

Модель решает задачу быстрой оценки двумерных парных копул (математических функций, описывающих зависимость между случайными величинами) и многомерных плотностей распределения на сетке 128 × 128. Чекпоинт основан на архитектуре VDC U-Net (~133 млн параметров, веса в float32) от автора hsafaai и выпущен как исследовательское переобучение к статье для конференции NeurIPS 2026. В отличие от базовой модели из основной части работы (vdc-denoiser-m64-v1), здесь используется линейная сетка повышенного разрешения и дополнительный этап дообучения по правдоподобию, что заметно снижает ошибку на двумерных тестах. Инструмент пригодится исследователям и специалистам по количественному анализу данных, которым нужно моделировать сложные многомерные зависимости без перебора параметрических семейств.

Ключевые особенности

  • Сетка 128 × 128: сеть принимает гистограмму псевдонаблюдений на равномерных ячейках, логарифм размера выборки и probit-координаты центров ячеек, выдавая узловые значения билинейной плотности.
  • Точная проекция маргиналов: каждая парная копула перепроецируется в float64 (алгоритм IPFP с доводкой Ньютона), благодаря чему PDF, условные CDF и обратные к ним функции вычисляются точно для полученной плотности.
  • Снижение расхождения Кульбака — Лейблера: на двумерных тестах из Таблицы 1 статьи среднее значение KL-дивергенции составило 0.00311 натов против 0.00611 у исходной модели (ниже на 49.1%).
  • Полный пайплайн в репозитории: помимо весов vdc-denoiser-m128-v2.pt опубликованы скрипты обучения и манифест с зафиксированными настройками инференса.

Что можно сделать

  • Оценивать плотность распределения и условные функции для парных выборок в научных расчётах через библиотеку vine-denoising-copula.
  • Строить многомерные D-vine модели (каскадные копулы) для табличных датасетов вроде POWER, GAS, HEPMASS и MINIBOONE, а также для финансовых временных рядов (в статье проверялось на S&P100).
  • Воспроизводить или модифицировать обучение на линейной сетке с помощью приложенных рецептов в папке training/ и сравнивать с компаньоном vdc-denoiser-m64-v2.

Пример

from vdc import VineCopulaModel, estimate_pair_copula_from_samples, load_pretrained_model

bundle = load_pretrained_model("vdc-denoiser-m128-v2", device="cuda")
copula = estimate_pair_copula_from_samples(bundle, uv)
copula.pdf(u, v)

vine = VineCopulaModel.from_pretrained(bundle, vine_type="dvine")
vine.fit(U_train, diffusion_model=bundle.model, verbose=False)
vine.logpdf(U_test)
ПодробнееБенчмарки (GPU H100): на UCI-датасетах (50k строк) NLL составляет -0.1924 bits/dim на POWER, -1.6800 на GAS и -0.2936 на HEPMASS; на хронологическом сплите S&P100 — -0.41876 bits/dim (время обучения 81.0 с).
Обучение: 60 000 шагов базового прогона со случайных весов плюс 8 000 шагов дообучения по правдоподобию; для запуска требуется vine-denoising-copula >= 0.3.0.
Ограничения: модель исследовательская (один сид), требует непрерывных маргинальных распределений и упрощающего предположения, а побитовая воспроизводимость гарантирована только на связке PyTorch 2.9.1 / NumPy 2.2.6 / SciPy 1.15.3 / pyvinecopulib 0.7.5.
Обсудить Telegram 0

Запустится ли?

Запустится в BF16

Влезает без сжатия.

  • BF16веса 0.5 GB · готовые файлы1.0 GB
  • FP8 / INT8рекомендуемвеса 0.2 GB0.8 GB
  • 4-bitвеса 0.1 GB0.7 GB

Совет: берите 8-bit.FP8 / INT8 почти не отличается по качеству от полной точности (разница в пределах процента), а памяти занимает вдвое меньше и на RTX 40/50, H100 работает быстрее. Полную точность есть смысл брать только для дообучения.

Что взять под эту модель

Massed ComputeОткрыть Massed Compute

Своя видеокарта: FP8 / INT8 — от RTX 2060 · BF16 — от RTX 2060

Почасовые цены Massed Compute на ноябрь 2026. Цена со скидкой — с промокодом при оплате.

Оценка: веса плюс рабочая память. Длинные ролики, высокое разрешение и большой контекст требуют больше.

Запуск на Massed Compute

Скрипт скачает модель на арендованную машину. Как её запустить — в карточке модели.

  1. 1. Арендуйте машину с подходящей видеокартой

    Открыть Massed Compute
  2. 2. Вставьте скрипт в терминал машины

    Подключитесь по SSH (команда есть в панели Massed Compute) или откройте терминал на рабочем столе машины.

    HF_TOKEN / CIVITAI_TOKENВ начале скрипта строки для токенов: вставьте свой между кавычками. Токен Hugging Face нужен для закрытых моделей, токен Civitai — для моделей с Civitai.

    # hsafaai/vdc-denoiser-m128-v2
    mkdir -p ~/models
    curl -LsSf https://astral.sh/uv/install.sh | sh
    source "$HOME/.local/bin/env"
    uv tool install "huggingface_hub[cli]"
    hf download hsafaai/vdc-denoiser-m128-v2 --local-dir ~/models/vdc-denoiser-m128-v2
    # Модель в папке ~/models. Как её запускать, написано в карточке модели (ссылка выше).
    Добавить ещё LoRA к vdc-denoiser-m128-v2
  3. 3. Пользуйтесь

    Модель в папке ~/models. Как её запускать, написано в карточке модели (ссылка выше).

Не забудьте остановить машину в панели, когда закончите: оплата идёт поминутно, пока она включена.

Как ускорить

Подобрано под тип модели. Выберите своё железо в блоке выше — покажем то, что подходит именно вам.

  • FlashAttention 44.0.0b40от 18 ноября 2026новая версия

    самое быстрое точное внимание на B200

    Ядра для Blackwell (пока бета). Точное внимание без квантования — подходит для всего, включая LLM.

    Как включить: pip install flash-attn-4; vLLM и SGLang подхватывают сами.

    Предыдущие поколения (2)
    • FlashAttention 3 — Версия для Hopper (H100/H200) с FP8.
    • FlashAttention 2 — Стандарт для RTX 30/40/50 и A100: точное внимание без лишней памяти на длинных контекстах.
  • torch.compile2.15.0от 28 октября 2026новая версия

    10–30% бесплатно

    Компилирует модель под вашу видеокарту. Первый запуск дольше, дальше быстрее.

    Как включить: model = torch.compile(model); в ComfyUI — узел TorchCompileModel.

Семья модели

Новые посты про версии vdc-denoiser-m128-v2 — сжатые, дообучения, LoRA — появятся в колокольчике.

У этой модели пока нет известных родственников. Все производные на Hugging Face

О модели

hsafaai/vdc-denoiser-m128-v2
Автор
hsafaai
Категория
Другое
Дата выхода
На сайте

На сайте

Hugging Face

00

Спросить нейросеть об этой модели

Отвечает Gemini 4 · переписка хранится только в этой вкладке

Комментарии