論文の概要: Learning to solve Bayesian inverse problems: An amortized variational
inference approach using Gaussian and Flow guides
- arxiv url: http://arxiv.org/abs/2305.20004v2
- Date: Tue, 16 Jan 2024 04:15:25 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-18 02:47:16.612163
- Title: Learning to solve Bayesian inverse problems: An amortized variational
inference approach using Gaussian and Flow guides
- Title(参考訳): ベイズ逆問題を解くための学習:ガウスとフローガイドを用いた不定形変分推論アプローチ
- Authors: Sharmila Karumuri and Ilias Bilionis
- Abstract要約: 本研究では,ベイズ逆写像,すなわちデータから後部への写像を学習することで,リアルタイムな推論を可能にする手法を開発する。
我々のアプローチは、ニューラルネットワークの前方通過のコストで、所定の観測のための後部分布を提供する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Inverse problems, i.e., estimating parameters of physical models from
experimental data, are ubiquitous in science and engineering. The Bayesian
formulation is the gold standard because it alleviates ill-posedness issues and
quantifies epistemic uncertainty. Since analytical posteriors are not typically
available, one resorts to Markov chain Monte Carlo sampling or approximate
variational inference. However, inference needs to be rerun from scratch for
each new set of data. This drawback limits the applicability of the Bayesian
formulation to real-time settings, e.g., health monitoring of engineered
systems, and medical diagnosis. The objective of this paper is to develop a
methodology that enables real-time inference by learning the Bayesian inverse
map, i.e., the map from data to posteriors. Our approach is as follows. We
parameterize the posterior distribution as a function of data. This work
outlines two distinct approaches to do this. The first method involves
parameterizing the posterior using an amortized full-rank Gaussian guide,
implemented through neural networks. The second method utilizes a Conditional
Normalizing Flow guide, employing conditional invertible neural networks for
cases where the target posterior is arbitrarily complex. In both approaches, we
learn the network parameters by amortized variational inference which involves
maximizing the expectation of evidence lower bound over all possible datasets
compatible with the model. We demonstrate our approach by solving a set of
benchmark problems from science and engineering. Our results show that the
posterior estimates of our approach are in agreement with the corresponding
ground truth obtained by Markov chain Monte Carlo. Once trained, our approach
provides the posterior distribution for a given observation just at the cost of
a forward pass of the neural network.
- Abstract(参考訳): 逆問題、すなわち実験データから物理モデルのパラメータを推定することは、科学や工学においてユビキタスである。
ベイズ式は不適切な問題を緩和し、認識の不確実性を定量化するため、金本位制である。
分析後部は一般には利用できないので、マルコフ連鎖モンテカルロサンプリングや近似変分推論に頼っている。
しかし、新しいデータセットごとに推論をスクラッチから再実行する必要がある。
この欠点は、ベイズ式の適用性が、例えば、工学系のヘルスモニタリングや医療診断など、リアルタイムな設定に制限されている。
本研究の目的は,ベイズ逆写像,すなわちデータから後方への写像を学習することにより,リアルタイム推論を可能にする手法を開発することである。
私たちのアプローチは以下の通りです。
後方分布をデータ関数としてパラメータ化する。
この研究は2つの異なるアプローチを概説している。
第1の方法は、ニューラルネットワークを介して実装された償却フルランクガウスガイドを用いて後部をパラメータ化することである。
第2の方法は、条件付き正規化フローガイドを使用し、ターゲット後部が任意に複雑である場合に条件付き非可逆ニューラルネットワークを用いる。
いずれのアプローチでも,モデルと互換性のあるすべての可能なデータセットに対して,エビデンスの下限を最大化することを含む,不定形変分推論によってネットワークパラメータを学習する。
我々は,科学と工学のベンチマーク問題を解くことにより,このアプローチを実証する。
この結果は,マルコフ連鎖モンテカルロによって得られた基底的真理と,我々のアプローチの後方推定値が一致することを示す。
トレーニングが完了すると、ニューラルネットワークの前方通過のコストを犠牲にして、与えられた観測のための後方分布を提供する。
関連論文リスト
- Improving Diffusion Models for Inverse Problems Using Optimal Posterior
Covariance [54.70569748637465]
最近の拡散モデルは、ノイズのある線形逆問題に対する有望なゼロショット解を提供する。
既存のゼロショット法に対する最初の統一的解釈を提案する。
近年の手法は, 等方性ガウス近似を導出可能な後部分布に置き換えることと等価であることを示す。
論文 参考訳(メタデータ) (2024-02-03T13:35:39Z) - Domain Adaptive Synapse Detection with Weak Point Annotations [63.97144211520869]
弱点アノテーションを用いたドメイン適応型シナプス検出のためのフレームワークであるAdaSynを提案する。
I SBI 2023のWASPSYNチャレンジでは、我々の手法が第1位にランクインした。
論文 参考訳(メタデータ) (2023-08-31T05:05:53Z) - Refining Amortized Posterior Approximations using Gradient-Based Summary
Statistics [0.9176056742068814]
逆問題の文脈における後部分布の補正近似を改善するための反復的枠組みを提案する。
そこで我々は,本手法をスタイリング問題に適用して制御条件で検証し,改良された後部近似を各繰り返しで観察する。
論文 参考訳(メタデータ) (2023-05-15T15:47:19Z) - Variational Laplace Autoencoders [53.08170674326728]
変分オートエンコーダは、遅延変数の後部を近似するために、償却推論モデルを用いる。
完全分解ガウス仮定の限定的後部表現性に対処する新しい手法を提案する。
また、深部生成モデルのトレーニングのための変分ラプラスオートエンコーダ(VLAE)という一般的なフレームワークも提示する。
論文 参考訳(メタデータ) (2022-11-30T18:59:27Z) - Bayesian Neural Network Inference via Implicit Models and the Posterior
Predictive Distribution [0.8122270502556371]
本稿では,ベイズニューラルネットワークのような複雑なモデルにおいて,近似ベイズ推論を行うための新しい手法を提案する。
このアプローチはMarkov Chain Monte Carloよりも大規模データに対してスケーラブルである。
これは、サロゲートや物理モデルのような応用に有用であると考えています。
論文 参考訳(メタデータ) (2022-09-06T02:43:19Z) - Equivariance Discovery by Learned Parameter-Sharing [153.41877129746223]
データから解釈可能な等価性を発見する方法について検討する。
具体的には、モデルのパラメータ共有方式に対する最適化問題として、この発見プロセスを定式化する。
また,ガウスデータの手法を理論的に解析し,研究された発見スキームとオラクルスキームの間の平均2乗ギャップを限定する。
論文 参考訳(メタデータ) (2022-04-07T17:59:19Z) - Inverting brain grey matter models with likelihood-free inference: a
tool for trustable cytoarchitecture measurements [62.997667081978825]
脳の灰白質細胞構造の特徴は、体密度と体積に定量的に敏感であり、dMRIでは未解決の課題である。
我々は新しいフォワードモデル、特に新しい方程式系を提案し、比較的スパースなb殻を必要とする。
次に,提案手法を逆転させるため,確率自由推論 (LFI) として知られるベイズ解析から最新のツールを適用した。
論文 参考訳(メタデータ) (2021-11-15T09:08:27Z) - The Bayesian Method of Tensor Networks [1.7894377200944511]
ネットワークのベイズ的枠組みを2つの観点から検討する。
本研究では,2次元合成データセットにおけるモデルパラメータと決定境界を可視化することにより,ネットワークのベイズ特性について検討する。
論文 参考訳(メタデータ) (2021-01-01T14:59:15Z) - Uncertainty Inspired RGB-D Saliency Detection [70.50583438784571]
本稿では,データラベリングプロセスから学習することで,RGB-D値検出の不確実性を利用した最初のフレームワークを提案する。
そこで本研究では,確率的RGB-Dサリエンシ検出を実現するために,サリエンシデータラベリングプロセスにインスパイアされた生成アーキテクチャを提案する。
6つの挑戦的RGB-Dベンチマークデータセットの結果から,サリエンシマップの分布を学習する際のアプローチの優れた性能が示された。
論文 参考訳(メタデータ) (2020-09-07T13:01:45Z) - Bayesian Neural Network via Stochastic Gradient Descent [0.0]
本稿では,勾配推定手法を用いてベイズニューラルネットワークに勾配推定を適用する方法を示す。
我々の研究はベイジアンニューラルネットワークを用いた回帰手法のこれまでの状況を大きく上回っている。
論文 参考訳(メタデータ) (2020-06-04T18:33:59Z) - Parameterizing uncertainty by deep invertible networks, an application
to reservoir characterization [0.9176056742068814]
フルウェーブフォーム逆転に対する不確かさの定量化は、問題の条件の不確かさを確率論的に特徴づける。
本研究では,モデル空間へのガウス的ランダム入力を,実際の後部分布からサンプリングしたかのように「前方」に学習するディープネットワークを特徴とするアプローチを提案する。
論文 参考訳(メタデータ) (2020-04-16T18:37:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。