vdc-denoiser-m128-v2
нейросеть для оценки парных копул и плотностей
2 min readupdated
Модель решает задачу быстрой оценки двумерных парных копул (математических функций, описывающих зависимость между случайными величинами) и многомерных плотностей распределения на сетке 128 × 128. Чекпоинт основан на архитектуре VDC U-Net (~133 млн параметров, веса в float32) от автора hsafaai и выпущен как исследовательское переобучение к статье для конференции NeurIPS 2026. В отличие от базовой модели из основной части работы (vdc-denoiser-m64-v1), здесь используется линейная сетка повышенного разрешения и дополнительный этап дообучения по правдоподобию, что заметно снижает ошибку на двумерных тестах. Инструмент пригодится исследователям и специалистам по количественному анализу данных, которым нужно моделировать сложные многомерные зависимости без перебора параметрических семейств.
Ключевые особенности
- Сетка 128 × 128: сеть принимает гистограмму псевдонаблюдений на равномерных ячейках, логарифм размера выборки и probit-координаты центров ячеек, выдавая узловые значения билинейной плотности.
- Точная проекция маргиналов: каждая парная копула перепроецируется в float64 (алгоритм IPFP с доводкой Ньютона), благодаря чему PDF, условные CDF и обратные к ним функции вычисляются точно для полученной плотности.
- Снижение расхождения Кульбака — Лейблера: на двумерных тестах из Таблицы 1 статьи среднее значение KL-дивергенции составило 0.00311 натов против 0.00611 у исходной модели (ниже на 49.1%).
- Полный пайплайн в репозитории: помимо весов
vdc-denoiser-m128-v2.ptопубликованы скрипты обучения и манифест с зафиксированными настройками инференса.
Что можно сделать
- Оценивать плотность распределения и условные функции для парных выборок в научных расчётах через библиотеку
vine-denoising-copula. - Строить многомерные D-vine модели (каскадные копулы) для табличных датасетов вроде POWER, GAS, HEPMASS и MINIBOONE, а также для финансовых временных рядов (в статье проверялось на S&P100).
- Воспроизводить или модифицировать обучение на линейной сетке с помощью приложенных рецептов в папке
training/и сравнивать с компаньономvdc-denoiser-m64-v2.
Пример
from vdc import VineCopulaModel, estimate_pair_copula_from_samples, load_pretrained_model
bundle = load_pretrained_model("vdc-denoiser-m128-v2", device="cuda")
copula = estimate_pair_copula_from_samples(bundle, uv)
copula.pdf(u, v)
vine = VineCopulaModel.from_pretrained(bundle, vine_type="dvine")
vine.fit(U_train, diffusion_model=bundle.model, verbose=False)
vine.logpdf(U_test)
Подробнее
Бенчмарки (GPU H100): на UCI-датасетах (50k строк) NLL составляет -0.1924 bits/dim на POWER, -1.6800 на GAS и -0.2936 на HEPMASS; на хронологическом сплите S&P100 — -0.41876 bits/dim (время обучения 81.0 с).Обучение: 60 000 шагов базового прогона со случайных весов плюс 8 000 шагов дообучения по правдоподобию; для запуска требуется
vine-denoising-copula >= 0.3.0.Ограничения: модель исследовательская (один сид), требует непрерывных маргинальных распределений и упрощающего предположения, а побитовая воспроизводимость гарантирована только на связке PyTorch 2.9.1 / NumPy 2.2.6 / SciPy 1.15.3 / pyvinecopulib 0.7.5.










Comments