論文の概要: Low-Budget Simulation-Based Inference with Bayesian Neural Networks
- arxiv url: http://arxiv.org/abs/2408.15136v1
- Date: Tue, 27 Aug 2024 15:19:07 GMT
- ステータス: 処理完了
- システム内更新日: 2024-08-28 13:13:36.217411
- Title: Low-Budget Simulation-Based Inference with Bayesian Neural Networks
- Title(参考訳): ベイズニューラルネットワークを用いた低予算シミュレーションに基づく推論
- Authors: Arnaud Delaunoy, Maxence de la Brassinne Bonardeaux, Siddharth Mishra-Sharma, Gilles Louppe,
- Abstract要約: ベイジアンニューラルネットワークは,数百のシミュレーションで情報的,よく校正された後続推定を導出することを示す。
これにより、非常に高価なシミュレータを使用して、信頼性の高いシミュレーションベースの推論を実行する可能性が開ける。
- 参考スコア(独自算出の注目度): 6.076337482187888
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Simulation-based inference methods have been shown to be inaccurate in the data-poor regime, when training simulations are limited or expensive. Under these circumstances, the inference network is particularly prone to overfitting, and using it without accounting for the computational uncertainty arising from the lack of identifiability of the network weights can lead to unreliable results. To address this issue, we propose using Bayesian neural networks in low-budget simulation-based inference, thereby explicitly accounting for the computational uncertainty of the posterior approximation. We design a family of Bayesian neural network priors that are tailored for inference and show that they lead to well-calibrated posteriors on tested benchmarks, even when as few as $O(10)$ simulations are available. This opens up the possibility of performing reliable simulation-based inference using very expensive simulators, as we demonstrate on a problem from the field of cosmology where single simulations are computationally expensive. We show that Bayesian neural networks produce informative and well-calibrated posterior estimates with only a few hundred simulations.
- Abstract(参考訳): シミュレーションに基づく推論手法は、訓練シミュレーションが限られた場合や高価な場合、データポーア方式では不正確であることが示されている。
このような状況下では、推論ネットワークは特に過度に適合する傾向があり、ネットワーク重みの識別性の欠如に起因する計算の不確実性を考慮していないと、信頼性の低い結果につながる可能性がある。
この問題に対処するために、低予算シミュレーションに基づく推論においてベイズニューラルネットワークを用いることを提案し、したがって、後部近似の計算の不確かさを明示的に考慮する。
我々は、推論に適したベイズニューラルネットワークのファミリを設計し、たとえ$O(10)$のシミュレーションが利用可能であっても、テストベンチマークでうまく校正された後部へと導かれることを示す。
このことは、単一シミュレーションが計算的に高価である宇宙論の分野における問題として、非常に高価なシミュレータを用いて、信頼性の高いシミュレーションベースの推論を実行する可能性を開く。
ベイジアンニューラルネットワークは,数百のシミュレーションで情報的,よく校正された後続推定を導出することを示す。
関連論文リスト
- Unrolled denoising networks provably learn optimal Bayesian inference [54.79172096306631]
我々は、近似メッセージパッシング(AMP)のアンロールに基づくニューラルネットワークの最初の厳密な学習保証を証明した。
圧縮センシングでは、製品から引き出されたデータに基づいてトレーニングを行うと、ネットワークの層がベイズAMPで使用されるのと同じデノイザーに収束することを示す。
論文 参考訳(メタデータ) (2024-09-19T17:56:16Z) - A variational neural Bayes framework for inference on intractable posterior distributions [1.0801976288811024]
トレーニングされたニューラルネットワークに観測データを供給することにより、モデルパラメータの後方分布を効率的に取得する。
理論的には、我々の後部はKulback-Leiblerの発散において真の後部に収束することを示す。
論文 参考訳(メタデータ) (2024-04-16T20:40:15Z) - Amortized Bayesian Decision Making for simulation-based models [11.375835331641548]
シミュレータ上でベイズ決定を行う方法に関する問題に対処する。
本手法は,シミュレーションデータ上にニューラルネットワークを学習し,予測コストを予測する。
次に,医療神経科学における実世界のシミュレーターにおける最適な行動を推測するために,本手法を適用した。
論文 参考訳(メタデータ) (2023-12-05T11:29:54Z) - Calibrating Neural Simulation-Based Inference with Differentiable
Coverage Probability [50.44439018155837]
ニューラルモデルのトレーニング目的に直接キャリブレーション項を含めることを提案する。
古典的なキャリブレーション誤差の定式化を緩和することにより、エンドツーエンドのバックプロパゲーションを可能にする。
既存の計算パイプラインに直接適用でき、信頼性の高いブラックボックス後部推論が可能である。
論文 参考訳(メタデータ) (2023-10-20T10:20:45Z) - Towards Reliable Simulation-Based Inference with Balanced Neural Ratio
Estimation [9.45752477068207]
現在のシミュレーションベースの推論アルゴリズムは、自信過剰な後部を生成できるため、偽の推論を危険にさらす。
より保守的である傾向のある後部近似を生成するために設計された NRE アルゴリズムの変種である Balanced Neural Ratio Estimation (BNRE) を導入する。
BNREは、全てのベンチマークとシミュレーション予算に基づいて、保守的な後続サロゲートを生成する。
論文 参考訳(メタデータ) (2022-08-29T14:13:55Z) - Neural Posterior Estimation with Differentiable Simulators [58.720142291102135]
微分可能シミュレータを用いてニューラル・ポストミラー推定(NPE)を行う新しい手法を提案する。
勾配情報が後部形状の制約にどのように役立ち、試料効率を向上させるかを示す。
論文 参考訳(メタデータ) (2022-07-12T16:08:04Z) - An advanced spatio-temporal convolutional recurrent neural network for
storm surge predictions [73.4962254843935]
本研究では, 人工ニューラルネットワークモデルを用いて, 嵐の軌跡/規模/強度履歴に基づいて, 強風をエミュレートする能力について検討する。
本研究では, 人工嵐シミュレーションのデータベースを用いて, 強風を予測できるニューラルネットワークモデルを提案する。
論文 参考訳(メタデータ) (2022-04-18T23:42:18Z) - Variational methods for simulation-based inference [3.308743964406687]
逐次ニューラル変分推論(SNVI)は、難易度のあるモデルにおいてベイズ推論を行うためのアプローチである。
SNVIは、確率推定と変分推論を組み合わせることで、スケーラブルなシミュレーションベースの推論アプローチを実現する。
論文 参考訳(メタデータ) (2022-03-08T16:06:37Z) - Truncated Marginal Neural Ratio Estimation [5.438798591410838]
本稿では、シミュレーション効率と高速な実験後テスト容易性を同時に提供するニューラルネットワークシミュレータベースの推論アルゴリズムを提案する。
本手法は関節後部ではなく低次元縁後部を同時に推定することによりシミュレーションを効率化する。
局所的アモータイズ後部を推定することにより,提案アルゴリズムは推論結果のロバスト性の効率的な実証試験を可能にする。
論文 参考訳(メタデータ) (2021-07-02T18:00:03Z) - Improving Uncertainty Calibration via Prior Augmented Data [56.88185136509654]
ニューラルネットワークは、普遍関数近似器として機能することで、複雑なデータ分布から学習することに成功した。
彼らはしばしば予測に自信過剰であり、不正確で誤った確率的予測に繋がる。
本稿では,モデルが不当に過信である特徴空間の領域を探索し,それらの予測のエントロピーをラベルの以前の分布に対して条件的に高める手法を提案する。
論文 参考訳(メタデータ) (2021-02-22T07:02:37Z) - Being Bayesian, Even Just a Bit, Fixes Overconfidence in ReLU Networks [65.24701908364383]
我々は、ReLUネットワーク上の不確実性に対する十分条件が「少しベイズ校正される」ことを示す。
さらに,これらの知見を,共通深部ReLUネットワークとLaplace近似を用いた各種標準実験により実証的に検証した。
論文 参考訳(メタデータ) (2020-02-24T08:52:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。