論文の概要: Debiased Bayesian Inference for High-dimensional Regression Models
- arxiv url: http://arxiv.org/abs/2512.09257v1
- Date: Wed, 10 Dec 2025 02:24:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-12-11 15:14:53.366828
- Title: Debiased Bayesian Inference for High-dimensional Regression Models
- Title(参考訳): 高次元回帰モデルに対するバイアス付きベイズ推論
- Authors: Qihui Chen, Zheng Fang, Ruixuan Liu,
- Abstract要約: 本稿では, 後方分布全体のバイアスを補正する新しい脱バイアス法を提案する。
我々は、偏った後部の頻繁な妥当性を保証する新しいベルンシュタイン・ヴォン・ミーゼスの定理を確立する。
- 参考スコア(独自算出の注目度): 8.361498779640419
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: There has been significant progress in Bayesian inference based on sparsity-inducing (e.g., spike-and-slab and horseshoe-type) priors for high-dimensional regression models. The resulting posteriors, however, in general do not possess desirable frequentist properties, and the credible sets thus cannot serve as valid confidence sets even asymptotically. We introduce a novel debiasing approach that corrects the bias for the entire Bayesian posterior distribution. We establish a new Bernstein-von Mises theorem that guarantees the frequentist validity of the debiased posterior. We demonstrate the practical performance of our proposal through Monte Carlo simulations and two empirical applications in economics.
- Abstract(参考訳): 高次元回帰モデルに対する空間性誘導(例えば、スパイク・アンド・スラブ型、ホースシュー型)に基づくベイズ推定は顕著な進歩を遂げている。
しかし、結果として得られる後続集合は一般に望ましい頻繁性を持たず、したがって信頼できる集合は漸近的にさえ有効な信頼集合として機能することができない。
本稿では,ベイジアン後部分布全体のバイアスを補正する新しい脱バイアス法を提案する。
我々は、偏った後部の頻繁な妥当性を保証する新しいベルンシュタイン・ヴォン・ミーゼスの定理を確立する。
我々はモンテカルロシミュレーションと2つの経済学的応用を通じて提案手法の実践的性能を実証する。
関連論文リスト
- Bayesian Semiparametric Causal Inference: Targeted Doubly Robust Estimation of Treatment Effects [1.2833734915643464]
本稿では,平均治療効果(ATE)を推定するための半パラメトリックベイズ手法を提案する。
本手法では,ニュアンス推定によるバイアスを補正するベイズ偏差補正法を提案する。
広範囲なシミュレーションにより理論結果が確認され、正確な点推定と信頼区間が明確化される。
論文 参考訳(メタデータ) (2025-11-19T22:15:04Z) - Predictively Oriented Posteriors [4.135680181585462]
我々はパラメータ推定と密度推定の両方の最も望ましい側面を組み合わせた新しい統計原理を提唱する。
PrO後部は予測最適モデル平均に$n-1/2$で収束する。
平均場ランゲヴィン動力学に基づく進化粒子からPrO後部を採取できることが示される。
論文 参考訳(メタデータ) (2025-10-02T11:33:26Z) - Generalization Certificates for Adversarially Robust Bayesian Linear Regression [16.3368950151084]
機械学習モデルの逆ロバスト性は、データ摂動下での信頼性の高い性能を保証するために重要である。
近年, 点推定器の進歩が見られ, 分布予測器について考察する。
実および合成データセットの実験は、ベイズ後部の逆向きに頑健な後部の優れた強靭性を示す。
論文 参考訳(メタデータ) (2025-02-20T06:25:30Z) - In-Context Parametric Inference: Point or Distribution Estimators? [66.22308335324239]
償却点推定器は一般に後部推論より優れているが、後者は低次元問題では競争力がある。
実験の結果, 償却点推定器は一般に後部推定より優れているが, 後者は低次元問題では競争力があることがわかった。
論文 参考訳(メタデータ) (2025-02-17T10:00:24Z) - Reproducible Parameter Inference Using Bagged Posteriors [9.975422461924705]
モデル的不特定性の下では、ベイジアン後部は真あるいは偽真パラメータの不確かさを適切に定量化しないことが多いことが知られている。
独立データセットから構築された2つの信頼集合が空でない重複を持つ確率を考察する。
標準後部からの信頼できる集合は、特に高次元の設定において、この境界に強く違反する可能性があることを示す。
論文 参考訳(メタデータ) (2023-11-03T16:28:16Z) - Calibrating Neural Simulation-Based Inference with Differentiable
Coverage Probability [50.44439018155837]
ニューラルモデルのトレーニング目的に直接キャリブレーション項を含めることを提案する。
古典的なキャリブレーション誤差の定式化を緩和することにより、エンドツーエンドのバックプロパゲーションを可能にする。
既存の計算パイプラインに直接適用でき、信頼性の高いブラックボックス後部推論が可能である。
論文 参考訳(メタデータ) (2023-10-20T10:20:45Z) - Monotonicity and Double Descent in Uncertainty Estimation with Gaussian
Processes [52.92110730286403]
限界確率はクロスバリデーションの指標を思い起こさせるべきであり、どちらもより大きな入力次元で劣化すべきである、と一般的に信じられている。
我々は,ハイパーパラメータをチューニングすることにより,入力次元と単調に改善できることを証明した。
また、クロスバリデーションの指標は、二重降下の特徴である質的に異なる挙動を示すことも証明した。
論文 参考訳(メタデータ) (2022-10-14T08:09:33Z) - Posterior concentration and fast convergence rates for generalized
Bayesian learning [4.186575888568896]
一般化ベイズ推定器の一般環境での学習率について検討する。
マルチスケールのベルンシュタインの条件の下では、一般化された後続分布は最適仮説の集合の周りに集中することが証明される。
論文 参考訳(メタデータ) (2021-11-19T14:25:21Z) - On the Double Descent of Random Features Models Trained with SGD [78.0918823643911]
勾配降下(SGD)により最適化された高次元におけるランダム特徴(RF)回帰特性について検討する。
本研究では, RF回帰の高精度な非漸近誤差境界を, 定常および適応的なステップサイズSGD設定の下で導出する。
理論的にも経験的にも二重降下現象を観察する。
論文 参考訳(メタデータ) (2021-10-13T17:47:39Z) - Bayesian Deep Learning and a Probabilistic Perspective of Generalization [56.69671152009899]
ディープアンサンブルはベイズ辺化を近似する有効なメカニズムであることを示す。
また,アトラクションの流域内での辺縁化により,予測分布をさらに改善する関連手法を提案する。
論文 参考訳(メタデータ) (2020-02-20T15:13:27Z) - Distributionally Robust Bayesian Quadrature Optimization [60.383252534861136]
確率分布が未知な分布の不確実性の下でBQOについて検討する。
標準的なBQOアプローチは、固定されたサンプル集合が与えられたときの真の期待目標のモンテカルロ推定を最大化する。
この目的のために,新しい後方サンプリングに基づくアルゴリズム,すなわち分布的に堅牢なBQO(DRBQO)を提案する。
論文 参考訳(メタデータ) (2020-01-19T12:00:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。