論文の概要: Balancing Simulation-based Inference for Conservative Posteriors
- arxiv url: http://arxiv.org/abs/2304.10978v1
- Date: Fri, 21 Apr 2023 14:26:16 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-24 14:33:57.419379
- Title: Balancing Simulation-based Inference for Conservative Posteriors
- Title(参考訳): バランスシミュレーションに基づく保守的後肢の推論
- Authors: Arnaud Delaunoy, Benjamin Kurt Miller, Patrick Forr\'e, Christoph
Weniger, Gilles Louppe
- Abstract要約: 我々は,神経後部推定と対照的な神経比推定のバランスの取れたバージョンを導入する。
バランスの取れたバージョンは、様々なベンチマークで保守的な後続近似を生成する傾向がある。
- 参考スコア(独自算出の注目度): 5.06518742691077
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Conservative inference is a major concern in simulation-based inference. It
has been shown that commonly used algorithms can produce overconfident
posterior approximations. Balancing has empirically proven to be an effective
way to mitigate this issue. However, its application remains limited to neural
ratio estimation. In this work, we extend balancing to any algorithm that
provides a posterior density. In particular, we introduce a balanced version of
both neural posterior estimation and contrastive neural ratio estimation. We
show empirically that the balanced versions tend to produce conservative
posterior approximations on a wide variety of benchmarks. In addition, we
provide an alternative interpretation of the balancing condition in terms of
the $\chi^2$ divergence.
- Abstract(参考訳): 保守的推論はシミュレーションに基づく推論において主要な関心事である。
一般的に使用されるアルゴリズムは、自信過剰な後方近似を生成できることが示されている。
バランスをとることがこの問題を軽減する効果的な方法であると実証されている。
しかし、その応用は神経比の推定に限定されている。
本研究では,後方密度を提供する任意のアルゴリズムにバランスを延ばす。
特に、神経後部推定と対照的神経比推定のバランスの取れたバージョンを導入する。
バランスの取れたバージョンは、様々なベンチマークで保守的な後続近似を生成する傾向があることを実証的に示す。
さらに、$\chi^2$の発散という観点から、バランス条件の代替解釈を提供する。
関連論文リスト
- Epistemic Uncertainty and Observation Noise with the Neural Tangent Kernel [12.464924018243988]
近年の研究では、勾配降下による広いニューラルネットワークのトレーニングは、ガウス過程における後部分布の平均を計算することと正式に等価であることが示されている。
非ゼロアレタリックノイズに対処する方法を示し, 後部共分散推定器を導出する。
論文 参考訳(メタデータ) (2024-09-06T00:34:44Z) - Calibrating Neural Simulation-Based Inference with Differentiable
Coverage Probability [50.44439018155837]
ニューラルモデルのトレーニング目的に直接キャリブレーション項を含めることを提案する。
古典的なキャリブレーション誤差の定式化を緩和することにより、エンドツーエンドのバックプロパゲーションを可能にする。
既存の計算パイプラインに直接適用でき、信頼性の高いブラックボックス後部推論が可能である。
論文 参考訳(メタデータ) (2023-10-20T10:20:45Z) - Convergence analysis of equilibrium methods for inverse problems [0.0]
平衡法のクラスに対して安定性と収束結果を提供する。
我々は、対称ブレグマン距離における収束率と安定性の推定を導出する。
収束解析によって新しいタイプの損失関数の設計が導かれることを示す。
論文 参考訳(メタデータ) (2023-06-02T10:22:33Z) - Robust computation of optimal transport by $\beta$-potential
regularization [79.24513412588745]
最適輸送(OT)は、確率分布間の差を測定する機械学習分野で広く使われているツールである。
我々は、いわゆる$beta$-divergenceに付随するベータポテンシャル項でOTを正規化することを提案する。
提案アルゴリズムで計算した輸送行列は,外乱が存在する場合でも確率分布を頑健に推定するのに役立つことを実験的に実証した。
論文 参考訳(メタデータ) (2022-12-26T18:37:28Z) - Towards Reliable Simulation-Based Inference with Balanced Neural Ratio
Estimation [9.45752477068207]
現在のシミュレーションベースの推論アルゴリズムは、自信過剰な後部を生成できるため、偽の推論を危険にさらす。
より保守的である傾向のある後部近似を生成するために設計された NRE アルゴリズムの変種である Balanced Neural Ratio Estimation (BNRE) を導入する。
BNREは、全てのベンチマークとシミュレーション予算に基づいて、保守的な後続サロゲートを生成する。
論文 参考訳(メタデータ) (2022-08-29T14:13:55Z) - On Convergence of Training Loss Without Reaching Stationary Points [62.41370821014218]
ニューラルネットワークの重み変数は、損失関数の勾配が消える定常点に収束しないことを示す。
エルゴード理論の力学系に基づく新しい視点を提案する。
論文 参考訳(メタデータ) (2021-10-12T18:12:23Z) - Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。
そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
論文 参考訳(メタデータ) (2021-08-25T21:30:27Z) - Online nonparametric regression with Sobolev kernels [99.12817345416846]
我々は、ソボレフ空間のクラス上の後悔の上限を$W_pbeta(mathcalX)$, $pgeq 2, beta>fracdp$ とする。
上界は minimax regret analysis で支えられ、$beta> fracd2$ または $p=infty$ の場合、これらの値は(本質的に)最適である。
論文 参考訳(メタデータ) (2021-02-06T15:05:14Z) - Being Bayesian, Even Just a Bit, Fixes Overconfidence in ReLU Networks [65.24701908364383]
我々は、ReLUネットワーク上の不確実性に対する十分条件が「少しベイズ校正される」ことを示す。
さらに,これらの知見を,共通深部ReLUネットワークとLaplace近似を用いた各種標準実験により実証的に検証した。
論文 参考訳(メタデータ) (2020-02-24T08:52:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。