論文の概要: Debiased Prior-Data Fitted Networks for Amortized Bayesian Semi-Parametric Inference
- arxiv url: http://arxiv.org/abs/2610.28314v1
- Date: Tue, 20 Oct 2026 14:52:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-21 21:58:47.861785
- Title: Debiased Prior-Data Fitted Networks for Amortized Bayesian Semi-Parametric Inference
- Title(参考訳): Amortized Bayesian Semi-Parametric Inferenceのためのデバイアスドプレデータフィットネットワーク
- Abstract要約: 我々は、有限目標に対する推論を行うために、偏りのないPFNの理論的基礎を開発する。
我々は、PFNとアモータイズされたベイズ的推論と、頻繁な半パラメトリック効率理論との間の新しい関係を確立する。
- 参考スコア(独自算出の注目度): 44.69148451211339
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Prior-data fitted networks (PFNs) have recently gained popularity as an end-to-end approach to amortized Bayesian inference. Yet, their statistical behavior for semi-parametric targets, such as means under missingness or causal effects, remains poorly understood. In this work, we develop theoretical foundations for debiased PFNs to perform inference on finite-dimensional targets in general semi-parametric settings. First, we show that, despite being Bayes-optimal with respect to the target, an idealized PFN can exhibit a posterior concentration rate that implicitly depends on the concentration rates of (latent) nuisance functions and can become slower as the prior becomes more diverse. Then, to speed up the target posterior concentration rates, we introduce two generic debiasing strategies based on efficient influence functions: (i) a label correction and (ii) a prior correction. Finally, we show that the debiased PFNs (i) & (ii) possess concentration rates that asymptotically match a convergence rate given by traditional frequentist bias-corrected estimators. In this way, we establish a novel connection between amortized Bayesian inference with PFNs and frequentist semi-parametric efficiency theory. Under additional assumptions, this allows us to guarantee local and global optimality of PFN-based estimators (namely, the Bernstein-von Mises property and minimax optimality, respectively). Therefore, our work provides guidelines for designing debiased PFNs for semi-parametric inference with principled and provable asymptotic guarantees.
- Abstract(参考訳): PFN(Predor-data fited network)は、最近、ベイズ推論に対するエンドツーエンドアプローチとして人気を集めている。
しかし、その半パラメトリックな目標に対する統計的挙動、例えば、欠落や因果的影響の下での手段は、いまだに理解されていない。
本研究では, 一般の半パラメトリック設定において, 有限次元的対象に対する推論を行うため, 偏平型PFNの理論基盤を開発する。
まず、目標に対してベイズ最適であるにもかかわらず、理想化されたPFNは、(相対的な)ニュアンス関数の濃度速度に暗黙的に依存する後部濃度率を示し、より多様になるにつれて遅くなる可能性があることを示す。
次に, 効率的な影響関数に基づく2つの総合的脱バイアス戦略を導入する。
(i)ラベルの訂正及び表示
(ii)事前補正
最後に、脱バイアスされたPFNが示す。
(i) &
(II) 従来の頻繁なバイアス補正推定器によって与えられる収束率と漸近的に一致した濃度速度を有する。
このようにして、償却ベイズ推論とPFNと、頻繁な半パラメトリック効率理論との間に新しい関係を確立する。
追加の仮定の下では、PFNベースの推定器(Bernstein-von Mises特性とminimaxOptimity)の局所的および大域的最適性を保証することができる。
そこで本研究は,半パラメトリック推論のための偏りのあるPFNを原理的かつ証明可能な漸近的保証で設計するためのガイドラインを提供する。
関連論文リスト
- From Atoms to Entropy: Optimal Noise Allocation for Diffusion Training in the Convex Regime [52.459513910242485]
拡散訓練における最適な雑音レベルアロケーションを研究するための一般統計フレームワークを開発する。
最適化されたトレーニングスケジュールは、有限個のノイズレベルに集中した原子最小値を持つことを示す。
次に,大規模実験におけるエントロピック・スケジュールの評価を行った。
論文 参考訳(メタデータ) (2026-07-10T20:59:06Z) - Frequentist Consistency of Prior-Data Fitted Networks for Causal Inference [49.70323515651261]
先行データ適合ネットワーク(PFN)に基づく基礎モデルは因果推論において強い経験的性能を示した。
PFNに基づく因果推定器が古典的頻繁な推定器と整合した不確実な定量化を提供するかどうかは不明である。
論文 参考訳(メタデータ) (2026-03-12T15:14:35Z) - The Procrustean Bed of Time Series: The Optimization Bias of Point-wise Loss [53.542743390809356]
本稿では,最適化バイアス(EOB)の期待に関する第一原理解析を提案する。
時間列が決定論的で構造化されるほど、ポイントワイドの損失関数によるバイアスがより厳しくなる。
本稿では,DFTとDWTの両原理を同時に実現する具体的ソリューションを提案する。
論文 参考訳(メタデータ) (2025-12-21T06:08:22Z) - Bayesian Semiparametric Causal Inference: Targeted Doubly Robust Estimation of Treatment Effects [1.2833734915643464]
本稿では,平均治療効果(ATE)を推定するための半パラメトリックベイズ手法を提案する。
本手法では,ニュアンス推定によるバイアスを補正するベイズ偏差補正法を提案する。
広範囲なシミュレーションにより理論結果が確認され、正確な点推定と信頼区間が明確化される。
論文 参考訳(メタデータ) (2025-11-19T22:15:04Z) - Provably Efficient Bayesian Optimization with Unknown Gaussian Process Hyperparameter Estimation [44.53678257757108]
目的関数の大域的最適値にサブ線形収束できる新しいBO法を提案する。
本手法では,BOプロセスにランダムなデータポイントを追加するために,マルチアームバンディット法 (EXP3) を用いる。
提案手法は, 様々な合成および実世界の問題に対して, 既存の手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2023-06-12T03:35:45Z) - Double Robust Bayesian Inference on Average Treatment Effects [2.458652618559425]
不整合下での平均処理効果(ATE)に対する二重頑健なベイズ推定法を提案する。
新しいベイズ的アプローチでは、まず条件付き平均関数の事前分布を調整し、得られた ATE の後方分布を補正する。
論文 参考訳(メタデータ) (2022-11-29T15:32:25Z) - Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。
一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
論文 参考訳(メタデータ) (2022-02-23T06:11:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。