論文の概要: Towards Reliable Simulation-Based Inference with Balanced Neural Ratio Estimation

• arxiv url: http://arxiv.org/abs/2208.13624v1
• Date: Mon, 29 Aug 2022 14:13:55 GMT
• ステータス: 処理完了
• システム内更新日: 2022-08-30 13:24:25.913955
• Title: Towards Reliable Simulation-Based Inference with Balanced Neural Ratio Estimation
• Title（参考訳）: 均衡型ニューラル比推定を用いた信頼性シミュレーションに基づく推論に向けて
• Authors: Arnaud Delaunoy, Joeri Hermans, Fran\c{c}ois Rozet, Antoine Wehenkel, Gilles Louppe
• Abstract要約: 現在のシミュレーションベースの推論アルゴリズムは、自信過剰な後部を生成できるため、偽の推論を危険にさらす。 より保守的である傾向のある後部近似を生成するために設計された NRE アルゴリズムの変種である Balanced Neural Ratio Estimation (BNRE) を導入する。 BNREは、全てのベンチマークとシミュレーション予算に基づいて、保守的な後続サロゲートを生成する。
• 参考スコア（独自算出の注目度）: 9.45752477068207
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Modern approaches for simulation-based inference rely upon deep learning surrogates to enable approximate inference with computer simulators. In practice, the estimated posteriors' computational faithfulness is, however, rarely guaranteed. For example, Hermans et al. (2021) show that current simulation-based inference algorithms can produce posteriors that are overconfident, hence risking false inferences. In this work, we introduce Balanced Neural Ratio Estimation (BNRE), a variation of the NRE algorithm designed to produce posterior approximations that tend to be more conservative, hence improving their reliability, while sharing the same Bayes optimal solution. We achieve this by enforcing a balancing condition that increases the quantified uncertainty in small simulation budget regimes while still converging to the exact posterior as the budget increases. We provide theoretical arguments showing that BNRE tends to produce posterior surrogates that are more conservative than NRE's. We evaluate BNRE on a wide variety of tasks and show that it produces conservative posterior surrogates on all tested benchmarks and simulation budgets. Finally, we emphasize that BNRE is straightforward to implement over NRE and does not introduce any computational overhead.
• Abstract（参考訳）: シミュレーションに基づく推論の現代的なアプローチは、コンピュータシミュレータの近似推論を可能にするためにディープラーニングサロゲートに依存している。 しかし実際には、推定後の計算忠実度が保証されることはほとんどない。 例えば、Hermans et al. (2021) は、現在のシミュレーションベースの推論アルゴリズムが過信である後部を生成できることを示した。 本研究では,より保守的になりがちで,信頼性が向上し,同じベイズ最適解を共有するnreアルゴリズムの変種であるバランスド・ニューラル比推定(bnre)を提案する。 我々は,小額のシミュレーション予算体制において,定量化の不確実性を高めるためのバランス条件を課し,予算の増大とともに正確な後方に収束させることにより,これを達成する。 我々は、BNREがNREよりも保守的な後続サロゲートを生成する傾向があることを示す理論的論証を提供する。 BNREを多種多様なタスクで評価し、全てのベンチマークとシミュレーション予算で保守的な後続サロゲートを生成することを示す。 最後に、BNREはNRE上で簡単に実装でき、計算オーバーヘッドは一切発生しない点を強調した。

関連論文リスト

• Low-Budget Simulation-Based Inference with Bayesian Neural Networks [6.076337482187888]
  ベイジアンニューラルネットワークは,数百のシミュレーションで情報的,よく校正された後続推定を導出することを示す。 これにより、非常に高価なシミュレータを使用して、信頼性の高いシミュレーションベースの推論を実行する可能性が開ける。
  論文  参考訳（メタデータ） (2024-08-27T15:19:07Z)
• Calibrating Neural Simulation-Based Inference with Differentiable Coverage Probability [50.44439018155837]
  ニューラルモデルのトレーニング目的に直接キャリブレーション項を含めることを提案する。 古典的なキャリブレーション誤差の定式化を緩和することにより、エンドツーエンドのバックプロパゲーションを可能にする。 既存の計算パイプラインに直接適用でき、信頼性の高いブラックボックス後部推論が可能である。
  論文  参考訳（メタデータ） (2023-10-20T10:20:45Z)
• Adversarial robustness of amortized Bayesian inference [3.308743964406687]
  償却ベイズ推論は、当初シミュレーションデータ上の推論ネットワークのトレーニングに計算コストを投資することを目的としている。 観測対象のほとんど認識不能な摂動は、予測された後部および非現実的な後部予測標本に劇的な変化をもたらす可能性があることを示す。 本研究では,条件密度推定器のフィッシャー情報をペナライズした計算効率の高い正規化手法を提案する。
  論文  参考訳（メタデータ） (2023-05-24T10:18:45Z)
• Balancing Simulation-based Inference for Conservative Posteriors [5.06518742691077]
  我々は,神経後部推定と対照的な神経比推定のバランスの取れたバージョンを導入する。 バランスの取れたバージョンは、様々なベンチマークで保守的な後続近似を生成する傾向がある。
  論文  参考訳（メタデータ） (2023-04-21T14:26:16Z)
• Improved Regret for Efficient Online Reinforcement Learning with Linear Function Approximation [69.0695698566235]
  線形関数近似による強化学習と,コスト関数の逆変化について検討した。 本稿では,未知のダイナミクスと帯域幅フィードバックの一般設定に挑戦する,計算効率のよいポリシ最適化アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-01-30T17:26:39Z)
• Bayesian Recurrent Units and the Forward-Backward Algorithm [91.39701446828144]
  ベイズの定理を用いることで、ユニットワイド・リカレンスとフォワード・バックワードアルゴリズムに類似した後方再帰を導出する。 その結果得られたベイジアン再帰ユニットは、ディープラーニングフレームワーク内で再帰ニューラルネットワークとして統合することができる。 音声認識の実験は、最先端の繰り返しアーキテクチャの最後に派生したユニットを追加することで、訓練可能なパラメータの点で非常に低コストで性能を向上させることを示唆している。
  論文  参考訳（メタデータ） (2022-07-21T14:00:52Z)
• Neural Posterior Estimation with Differentiable Simulators [58.720142291102135]
  微分可能シミュレータを用いてニューラル・ポストミラー推定(NPE)を行う新しい手法を提案する。 勾配情報が後部形状の制約にどのように役立ち、試料効率を向上させるかを示す。
  論文  参考訳（メタデータ） (2022-07-12T16:08:04Z)
• Variational methods for simulation-based inference [3.308743964406687]
  逐次ニューラル変分推論(SNVI)は、難易度のあるモデルにおいてベイズ推論を行うためのアプローチである。 SNVIは、確率推定と変分推論を組み合わせることで、スケーラブルなシミュレーションベースの推論アプローチを実現する。
  論文  参考訳（メタデータ） (2022-03-08T16:06:37Z)
• Truncated Marginal Neural Ratio Estimation [5.438798591410838]
  本稿では、シミュレーション効率と高速な実験後テスト容易性を同時に提供するニューラルネットワークシミュレータベースの推論アルゴリズムを提案する。 本手法は関節後部ではなく低次元縁後部を同時に推定することによりシミュレーションを効率化する。 局所的アモータイズ後部を推定することにより,提案アルゴリズムは推論結果のロバスト性の効率的な実証試験を可能にする。
  論文  参考訳（メタデータ） (2021-07-02T18:00:03Z)
• Amortized Conditional Normalized Maximum Likelihood: Reliable Out of Distribution Uncertainty Estimation [99.92568326314667]
  本研究では,不確実性推定のための拡張性のある汎用的アプローチとして,償却条件正規化最大値(ACNML)法を提案する。 提案アルゴリズムは条件付き正規化最大度(CNML)符号化方式に基づいており、最小記述長の原理に従って最小値の最適特性を持つ。 我々は、ACNMLが、分布外入力のキャリブレーションの観点から、不確実性推定のための多くの手法と好意的に比較することを示した。
  論文  参考訳（メタデータ） (2020-11-05T08:04:34Z)
• Being Bayesian, Even Just a Bit, Fixes Overconfidence in ReLU Networks [65.24701908364383]
  我々は、ReLUネットワーク上の不確実性に対する十分条件が「少しベイズ校正される」ことを示す。 さらに,これらの知見を,共通深部ReLUネットワークとLaplace近似を用いた各種標準実験により実証的に検証した。
  論文  参考訳（メタデータ） (2020-02-24T08:52:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。