論文の概要: Frequentist Consistency of Prior-Data Fitted Networks for Causal Inference
- arxiv url: http://arxiv.org/abs/2603.12037v1
- Date: Thu, 12 Mar 2026 15:14:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-13 14:46:26.171873
- Title: Frequentist Consistency of Prior-Data Fitted Networks for Causal Inference
- Title(参考訳): 因果推論のための事前データ適合ネットワークの周波数整合性
- Authors: Valentyn Melnychuk, Vahid Balazadeh, Stefan Feuerriegel, Rahul G. Krishnan,
- Abstract要約: 先行データ適合ネットワーク(PFN)に基づく基礎モデルは因果推論において強い経験的性能を示した。
PFNに基づく因果推定器が古典的頻繁な推定器と整合した不確実な定量化を提供するかどうかは不明である。
- 参考スコア(独自算出の注目度): 49.70323515651261
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Foundation models based on prior-data fitted networks (PFNs) have shown strong empirical performance in causal inference by framing the task as an in-context learning problem.However, it is unclear whether PFN-based causal estimators provide uncertainty quantification that is consistent with classical frequentist estimators. In this work, we address this gap by analyzing the frequentist consistency of PFN-based estimators for the average treatment effect (ATE). (1) We show that existing PFNs, when interpreted as Bayesian ATE estimators, can exhibit prior-induced confounding bias: the prior is not asymptotically overwritten by data, which, in turn, prevents frequentist consistency. (2) As a remedy, we suggest employing a calibration procedure based on a one-step posterior correction (OSPC). We show that the OSPC helps to restore frequentist consistency and can yield a semi-parametric Bernstein-von Mises theorem for calibrated PFNs (i.e., both the calibrated PFN-based estimators and the classical semi-parametric efficient estimators converge in distribution with growing data size). (3) Finally, we implement OSPC through tailoring martingale posteriors on top of the PFNs. In this way, we are able to recover functional nuisance posteriors from PFNs, required by the OSPC. In multiple (semi-)synthetic experiments, PFNs calibrated with our martingale posterior OSPC produce ATE uncertainty that (i) asymptotically matches frequentist uncertainty and (ii) is well calibrated in finite samples in comparison to other Bayesian ATE estimators.
- Abstract(参考訳): 先行データ適応ネットワーク(PFN)に基づく基礎モデルは、タスクを文脈内学習問題としてフレーミングすることで因果推論において強い経験的性能を示してきたが、PFNベースの因果推定器が古典的頻繁性推定器と整合した不確実性定量化を提供するかどうかは不明である。
本研究では,PFNに基づく平均治療効果 (ATE) の推定値の頻繁な一貫性を解析することにより,このギャップに対処する。
1) 既往のPFNはベイジアンATE推定器と解釈される場合, 前者はデータによって漸近的に上書きされないため, 頻繁な一貫性が阻害されることが示唆された。
2) 治療として, 1段階の後方修正(OSPC)に基づく校正法を提案する。
我々は、OSPCが頻繁な一貫性の回復に役立ち、キャリブレーションされたPFNに対する半パラメトリックなベルンシュタイン・ヴォン・ミセスの定理(すなわち、キャリブレーションされたPFNベースの推定器と古典的な半パラメトリック効率的な推定器の両方が、データサイズの増加とともに分布に収束することを示す。
(3) 最後に, PFNの上部にマチンゲール後部を適合させてOSPCを実装した。
このようにして,OSPCが要求する機能的ニュアンス後部をPFNから回復することができる。
複数の(半合成)実験では、PFNとマーチンゲール後部OSPCの校正により、ATEの不確実性が生じる。
i)漸近的に頻繁な不確実性と一致させる
(ii) は他のベイズ ATE 推定器と比較して有限標本でよく校正される。
関連論文リスト
- Generalized Bayes for Causal Inference [47.66564705927885]
不確かさの定量化は、因果機械学習の多くの応用の中心である。
標準的なベイズ的アプローチでは、データ生成プロセスの確率モデルを指定する必要がある。
因果推論のための一般化されたベイズ的枠組みを提案する。
論文 参考訳(メタデータ) (2026-03-03T14:27:23Z) - Stabilizing Diffusion Posterior Sampling by Noise--Frequency Continuation [52.736416985173776]
高雑音下では、不正確な推定から計算されたデータ一貫性勾配は、後部幾何学と幾何的に一致しない。
本稿では、雑音依存周波数帯域内でのみ測定一貫性を強制する中間部分の連続的なファミリを構成するノイズ周波数継続フレームワークを提案する。
提案手法は最先端性能を実現し,強いベースライン上で最大5dBのPSNRの動作劣化を改善する。
論文 参考訳(メタデータ) (2026-01-30T03:14:01Z) - In-Context Parametric Inference: Point or Distribution Estimators? [66.22308335324239]
償却点推定器は一般に後部推論より優れているが、後者は低次元問題では競争力がある。
実験の結果, 償却点推定器は一般に後部推定より優れているが, 後者は低次元問題では競争力があることがわかった。
論文 参考訳(メタデータ) (2025-02-17T10:00:24Z) - Double Robust Bayesian Inference on Average Treatment Effects [2.458652618559425]
不整合下での平均処理効果(ATE)に対する二重頑健なベイズ推定法を提案する。
新しいベイズ的アプローチでは、まず条件付き平均関数の事前分布を調整し、得られた ATE の後方分布を補正する。
論文 参考訳(メタデータ) (2022-11-29T15:32:25Z) - Sample-Efficient Optimisation with Probabilistic Transformer Surrogates [66.98962321504085]
本稿では,ベイズ最適化における最先端確率変換器の適用可能性について検討する。
トレーニング手順と損失定義から生じる2つの欠点を観察し、ブラックボックス最適化のプロキシとして直接デプロイすることを妨げる。
1)非一様分散点を前処理するBO調整トレーニング,2)予測性能を向上させるために最適な定常点をフィルタする新しい近似後正則整定器トレードオフ精度と入力感度を導入する。
論文 参考訳(メタデータ) (2022-05-27T11:13:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。