PFN-DiD
оценка причинно-следственных эффектов на таблицах
2 мин чтенияобновлено
PFN-DiD от автора lisuo — модель для эконометрики и причинно-следственного анализа на двухпериодных панельных данных. Она оценивает средний эффект воздействия на тех, кто ему подвергся (ATT — Average Treatment Effect on the Treated), а также неопределённость этой оценки. В основе лежит замороженная табличная модель TabPFN-3.5 от Prior Labs, к которой добавлены лёгкие обучаемые адаптеры (155 712 параметров) для оценки склонности к воздействию и регрессии исходов. В отличие от базовой TabPFN-3.5, решение заточено под метод разности разностей (DiD — Difference-in-Differences) с пятикратной кросс-подгонкой и двойной устойчивостью. Инструмент пригодится исследователям и аналитикам данных, работающим с оценкой эффектов на небольших числовых таблицах.
Ключевые особенности
- Лёгкая архитектура: используются только 155 712 обученных параметров адаптера поверх замороженной базы TabPFN-3.5.
- Двойная устойчивость: сочетает отдельные адаптеры для propensity-score и регрессии исходов с пятикратной кросс-подгонкой.
- Работа без ковариат: поддерживает числовые таблицы на 500 независимых наблюдений, включая случаи без наблюдаемых признаков.
- Офлайн-запуск и CPU: после скачивания весов с проверкой SHA-256 инференс работает локально без интернета и проверен на CPU и MUSA.
Что можно сделать
- Оценивать эффект вмешательств: считать ATT, стандартную ошибку и 95% доверительный интервал для двухпериодных панельных наблюдений.
- Встроить в пайплайны оценки: использовать готовый Python-интерфейс
Predictor(подготовленный как бандл для StatsArena) для пакетного прогона таблиц. - Анализировать таблицы без признаков: получать оценки эффекта даже в сценариях, где доступны только индикатор воздействия и изменение целевой переменной.
Пример
from predict import Predictor, read_observed
predictor = Predictor(backbone_path, device="cpu", threads=4)
result = predictor(
read_observed("arena-methods/example/observed_n500.npz"),
fold_seed=39007
)
print(result)Подробнее
Бенчмарк (1 000 ID / 1 000 OOD таблиц по 500 строк): RMSE 0.132960 (ID) и 0.171503 (OOD), покрытие 95% интервала — 95.5% (ID) и 93.8% (OOD).Обучение: 10 000 синтетических таблиц, валидация на 200 таблицах; базовая модель TabPFN-3.5 скачивается отдельно с Hugging Face.
Ограничения: только для некоммерческих исследований по лицензии TabPFN-3.5; CUDA использует стандартный путь PyTorch, но отдельно не валидировалась.








Комментарии