論文の概要: Leveraging Self-Consistency for Data-Efficient Amortized Bayesian
Inference
- arxiv url: http://arxiv.org/abs/2310.04395v3
- Date: Mon, 26 Feb 2024 13:45:35 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-28 22:22:16.446548
- Title: Leveraging Self-Consistency for Data-Efficient Amortized Bayesian
Inference
- Title(参考訳): データ効率アモルトベイズ推定における自己一貫性の活用
- Authors: Marvin Schmitt, Desi R. Ivanova, Daniel Habermann, Ullrich K\"othe,
Paul-Christian B\"urkner, Stefan T. Radev
- Abstract要約: 本稿では,償却ベイズ推定の効率と精度を向上させる手法を提案する。
我々は,関節モデルの近似表現に基づいて限界確率を推定する。
- 参考スコア(独自算出の注目度): 3.0358713021250083
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: We propose a method to improve the efficiency and accuracy of amortized
Bayesian inference by leveraging universal symmetries in the joint
probabilistic model of parameters and data. In a nutshell, we invert Bayes'
theorem and estimate the marginal likelihood based on approximate
representations of the joint model. Upon perfect approximation, the marginal
likelihood is constant across all parameter values by definition. However,
errors in approximate inference lead to undesirable variance in the marginal
likelihood estimates across different parameter values. We penalize violations
of this symmetry with a \textit{self-consistency loss} which significantly
improves the quality of approximate inference in low data regimes and can be
used to augment the training of popular neural density estimators. We apply our
method to a number of synthetic problems and realistic scientific models,
discovering notable advantages in the context of both neural posterior and
likelihood approximation.
- Abstract(参考訳): 本稿では,パラメータとデータの連立確率モデルにおける普遍対称性を利用して,償却ベイズ推定の効率と精度を向上させる手法を提案する。
一言で言えば、我々はベイズの定理を反転させ、ジョイントモデルの近似表現に基づいて限界確率を推定する。
完全近似が成立すると、定義による全てのパラメータ値の限界確率は一定となる。
しかし、近似推論における誤差は、異なるパラメータ値の辺縁推定値に望ましくないばらつきをもたらす。
この対称性の違反を \textit{self-consistency loss} で罰し、低データレジームにおける近似推論の品質を大幅に改善し、人気のある神経密度推定器のトレーニングを強化するために使用できる。
本手法を多くの合成問題や現実的な科学的モデルに適用し,神経後部および確率近似の文脈において顕著な利点を見出した。
関連論文リスト
- Debiased Nonparametric Regression for Statistical Inference and Distributionally Robustness [10.470114319701576]
我々は、任意の非パラメトリック回帰手法から導かれる滑らかな非パラメトリック推定器に対するモデルフリーデバイアス法を提案する。
点方向の正規性と一様収束性を証明した偏バイアス推定器を得る。
論文 参考訳(メタデータ) (2024-12-28T15:01:19Z) - Multivariate root-n-consistent smoothing parameter free matching estimators and estimators of inverse density weighted expectations [51.000851088730684]
我々は、パラメトリックな$sqrt n $-rateで収束する、最も近い隣人の新しい修正とマッチング推定器を開発する。
我々は,非パラメトリック関数推定器は含まないこと,特に標本サイズ依存パラメータの平滑化には依存していないことを強調する。
論文 参考訳(メタデータ) (2024-07-11T13:28:34Z) - A variational Bayes approach to debiased inference for low-dimensional parameters in high-dimensional linear regression [2.7498981662768536]
疎線形回帰における統計的推測のためのスケーラブルな変分ベイズ法を提案する。
我々のアプローチは、平均場近似をニュアンス座標に割り当てることに依存している。
これは前処理のステップに過ぎず、平均場変動ベイズの計算上の優位性を保っている。
論文 参考訳(メタデータ) (2024-06-18T14:27:44Z) - Collaborative Heterogeneous Causal Inference Beyond Meta-analysis [68.4474531911361]
異種データを用いた因果推論のための協調的逆確率スコア推定器を提案する。
異質性の増加に伴うメタアナリシスに基づく手法に対して,本手法は有意な改善を示した。
論文 参考訳(メタデータ) (2024-04-24T09:04:36Z) - Partially factorized variational inference for high-dimensional mixed models [0.0]
変分推論は、特にベイズ的文脈において、そのような計算を行う一般的な方法である。
標準平均場変動推論は,高次元の後方不確かさを劇的に過小評価することを示した。
次に、平均場仮定を適切に緩和すると、不確実な定量化が高次元で悪化しない手法が導かれることを示す。
論文 参考訳(メタデータ) (2023-12-20T16:12:37Z) - MINIMALIST: Mutual INformatIon Maximization for Amortized Likelihood
Inference from Sampled Trajectories [61.3299263929289]
シミュレーションベースの推論は、その可能性が実際に計算できない場合でもモデルのパラメータを学習することができる。
あるクラスのメソッドは、異なるパラメータでシミュレートされたデータを使用して、確率とエビデンス比の償却推定器を推定する。
モデルパラメータとシミュレーションデータ間の相互情報の観点から,本手法が定式化可能であることを示す。
論文 参考訳(メタデータ) (2021-06-03T12:59:16Z) - Robust Bayesian Inference for Discrete Outcomes with the Total Variation
Distance [5.139874302398955]
離散的に評価された結果のモデルは、データがゼロインフレーション、過分散または汚染を示す場合、容易に誤特定される。
ここでは、Ttal Variation Distance (TVD) を用いた頑健な相違に基づくベイズ的アプローチを提案する。
我々は、我々のアプローチが堅牢で、シミュレーションおよび実世界のデータの範囲で予測性能を著しく改善していることを実証的に実証した。
論文 参考訳(メタデータ) (2020-10-26T09:53:06Z) - Efficient Ensemble Model Generation for Uncertainty Estimation with
Bayesian Approximation in Segmentation [74.06904875527556]
アンサンブルセグメンテーションモデルを構築するための汎用的で効率的なセグメンテーションフレームワークを提案する。
提案手法では,層選択法を用いて効率よくアンサンブルモデルを生成することができる。
また,新たな画素単位の不確実性損失を考案し,予測性能を向上する。
論文 参考訳(メタデータ) (2020-05-21T16:08:38Z) - Machine learning for causal inference: on the use of cross-fit
estimators [77.34726150561087]
より優れた統計特性を得るために、二重ローバストなクロスフィット推定器が提案されている。
平均因果効果(ACE)に対する複数の推定器の性能評価のためのシミュレーション研究を行った。
機械学習で使用する場合、二重確率のクロスフィット推定器は、バイアス、分散、信頼区間のカバレッジで他のすべての推定器よりも大幅に優れていた。
論文 参考訳(メタデータ) (2020-04-21T23:09:55Z) - Asymptotic Analysis of an Ensemble of Randomly Projected Linear
Discriminants [94.46276668068327]
[1]では、ランダムに投影された線形判別式のアンサンブルを用いてデータセットを分類する。
我々は,計算コストのかかるクロスバリデーション推定器の代替として,誤分類確率の一貫した推定器を開発する。
また、実データと合成データの両方で投影次元を調整するための推定器の使用を実証する。
論文 参考訳(メタデータ) (2020-04-17T12:47:04Z) - Maximum likelihood estimation and uncertainty quantification for
Gaussian process approximation of deterministic functions [10.319367855067476]
本稿は、ガウス過程の回帰の文脈において、ノイズのないデータセットを用いた最初の理論的分析の1つを提供する。
本稿では,スケールパラメータのみの最大推定がガウス過程モデルの不特定に対する顕著な適応をもたらすことを示す。
論文 参考訳(メタデータ) (2020-01-29T17:20:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。