論文の概要: A Convex Approximation Framework for Neural Likelihood-Based Bayesian Inverse Problems
- arxiv url: http://arxiv.org/abs/2607.06252v1
- Date: Tue, 07 Jul 2026 13:18:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-08 21:24:51.531651
- Title: A Convex Approximation Framework for Neural Likelihood-Based Bayesian Inverse Problems
- Title(参考訳): ニューラルネットワークに基づくベイズ逆問題に対する凸近似フレームワーク
- Abstract要約: 本研究の目的は,データ生成過程の明示的な知識を必要とせずに,データから直接確率関数を学習することである。
得られたデータ駆動目標の実証的最小化は,サンプルサイズが大きくなるにつれて真の可能性に収束することを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Many problems in science and engineering are difficult to model accurately, either due to unknown physical mechanisms, poorly quantified measurement uncertainty, or prohibitive computational costs of high-fidelity simulations. These challenges limit the applicability of classical probabilistic inference methods such as Markov chain Monte Carlo, especially in high-dimensional Bayesian inverse problems. As data from scientific experiments become increasingly available, machine learning methods offer a flexible alternative to explicit parametric modelling. We study neural likelihood approximation, where the goal is to learn the likelihood function directly from data without explicit knowledge of the underlying data-generating process. A common approach trains likelihood surrogates by minimizing the Kullback-Leibler divergence between the true posterior and an approximate posterior, which is equivalent to minimizing the expected negative log-likelihood. This work improves the theoretical foundations of neural likelihood approximation by alleviating limitations of restrictive model classes: we show that, by working with un-normalized potentials and folding normalization into the training objective, the resulting learning problem is strictly convex. We show that empirical minimizers of the resulting data-driven objective converge to the true likelihood as the sample size grows. Numerical experiments for the neural likelihood approximation are conducted for a deblurring and a non-linear PDE based imaging problem.
- Abstract(参考訳): 科学や工学における多くの問題は、未知の物理的メカニズム、定量化されていない測定の不確実性、高忠実度シミュレーションの禁止的な計算コストによって、正確にモデル化することは困難である。
これらの課題は、マルコフ連鎖モンテカルロのような古典的確率的推論法の適用性、特に高次元ベイズ逆問題に適用性を制限する。
科学実験のデータがますます利用できるようになると、機械学習手法は明示的なパラメトリックモデリングに代わる柔軟な代替手段を提供する。
本研究の目的は,データ生成過程の明示的な知識を必要とせずに,データから直接確率関数を学習することである。
一般的なアプローチは、期待される負の対数類似度を最小化するのと等価な、真の後部と近似した後部の間のクルバック・リーブラーの発散を最小化することによって、代理を訓練する。
この研究は、制限的モデルクラスの制限を緩和することにより、ニューラルネットワークの確率近似の理論的基礎を改善し、非正規化ポテンシャルで作業し、正規化をトレーニング対象に折り畳むことにより、結果として得られる学習問題は厳密に凸であることを示す。
得られたデータ駆動目標の実証的最小化は,サンプルサイズが大きくなるにつれて真の可能性に収束することを示す。
脱臭および非線形PDEに基づくイメージング問題に対して, ニューラルチャンス近似の数値実験を行った。
関連論文リスト
- Neural network surrogates with uncertainty quantification for inverse problems in partial differential equations [11.776563892451817]
本稿では、不確実性を考慮した予測を提供する微分方程式解法のためのニューラルネットワークサロゲートであるDeepGaLAを紹介する。
様々な数値実験において、DeepGaLAは、確立されたガウス過程のサロゲートに匹敵する精度でフォワードモデル近似を提供する。
論文 参考訳(メタデータ) (2026-06-18T16:02:20Z) - Amortised and provably-robust simulation-based inference [8.066034633422252]
本稿では,一般化ベイズ推論に基づくシミュレーションに基づく推論手法を提案する。
マルコフ連鎖モンテカルロサンプリングを必要とせずに推論をさらに単純化し実行できることを実証する。
論文 参考訳(メタデータ) (2026-02-11T19:54:27Z) - Generative Modeling with Continuous Flows: Sample Complexity of Flow Matching [60.37045080890305]
本稿では,フローマッチングに基づく生成モデルにおいて,サンプルの複雑さを初めて解析する。
速度場推定誤差をニューラルネットワーク近似誤差、有限標本サイズによる統計的誤差、速度場推定のための有限個の最適化ステップによる最適化誤差に分解する。
論文 参考訳(メタデータ) (2025-12-01T05:14:25Z) - Bayesian Model Parameter Learning in Linear Inverse Problems: Application in EEG Focal Source Imaging [49.1574468325115]
逆問題は、関心のシグナルを直接観測できない限定データ問題として記述することができる。
未知の非線形モデルパラメータを含む線形逆問題について検討した。
ベイズモデルに基づく学習手法を用いて,信号の回復とモデルパラメータの推定を行った。
論文 参考訳(メタデータ) (2025-01-07T18:14:24Z) - Scaling and renormalization in high-dimensional regression [72.59731158970894]
リッジ回帰に関する最近の結果について統一的な視点を提示する。
我々は、物理とディープラーニングの背景を持つ読者を対象に、ランダム行列理論と自由確率の基本的なツールを使用する。
我々の結果は拡張され、初期のスケーリング法則のモデルについて統一的な視点を提供する。
論文 参考訳(メタデータ) (2024-05-01T15:59:00Z) - Leveraging viscous Hamilton-Jacobi PDEs for uncertainty quantification in scientific machine learning [1.8175282137722093]
科学機械学習(SciML)における不確実性(UQ)は、SciMLの強力な予測力と、学習したモデルの信頼性を定量化する方法を組み合わせる。
我々は、SciMLと粘性ハミルトン-ヤコビ偏微分方程式(HJ PDE)で生じるいくつかのベイズ推論問題の間の新しい理論的関係を確立することにより、UQ問題に対する新しい解釈を提供する。
我々はモデル予測を継続的に更新する際の計算上の利点を提供する新しいRacatiベースの方法論を開発した。
論文 参考訳(メタデータ) (2024-04-12T20:54:01Z) - Seeing Unseen: Discover Novel Biomedical Concepts via
Geometry-Constrained Probabilistic Modeling [53.7117640028211]
同定された問題を解決するために,幾何制約付き確率的モデリング処理を提案する。
構成された埋め込み空間のレイアウトに適切な制約を課すために、重要な幾何学的性質のスイートを組み込む。
スペクトルグラフ理論法は、潜在的な新規クラスの数を推定するために考案された。
論文 参考訳(メタデータ) (2024-03-02T00:56:05Z) - The Convex Landscape of Neural Networks: Characterizing Global Optima
and Stationary Points via Lasso Models [75.33431791218302]
ディープニューラルネットワーク(DNN)モデルは、プログラミング目的に使用される。
本稿では,凸型神経回復モデルについて検討する。
定常的非次元目的物はすべて,グローバルサブサンプリング型凸解法プログラムとして特徴付けられることを示す。
また, 静止非次元目的物はすべて, グローバルサブサンプリング型凸解法プログラムとして特徴付けられることを示す。
論文 参考訳(メタデータ) (2023-12-19T23:04:56Z) - Calibrating Neural Simulation-Based Inference with Differentiable
Coverage Probability [50.44439018155837]
ニューラルモデルのトレーニング目的に直接キャリブレーション項を含めることを提案する。
古典的なキャリブレーション誤差の定式化を緩和することにより、エンドツーエンドのバックプロパゲーションを可能にする。
既存の計算パイプラインに直接適用でき、信頼性の高いブラックボックス後部推論が可能である。
論文 参考訳(メタデータ) (2023-10-20T10:20:45Z) - Simulation-based Inference for High-dimensional Data using Surjective Sequential Neural Likelihood Estimation [45.9982965995401]
我々はSBI(Surjective Sequential Neural Likelihood Estimation)という,シミュレーションベース推論(SBI)手法のファミリーにおける新しいメンバーを提案する。
SSNL は次元共振型正規化フローモデルに適合し、マルコフ連鎖モンテカルロあるいは変分ベイズ法による計算推論を可能にする代理可能性関数として利用する。
SSNLは、天体物理学と神経科学の文献から得られた2つの挑戦的な実例を含む、多種多様な実験で評価し、その成果が、最先端の手法に匹敵するか、同等であることを示す。
論文 参考訳(メタデータ) (2023-08-02T10:02:38Z) - Convergence of uncertainty estimates in Ensemble and Bayesian sparse
model discovery [4.446017969073817]
ブートストラップに基づく逐次しきい値最小二乗推定器による雑音に対する精度と頑健性の観点から経験的成功を示す。
このブートストラップに基づくアンサンブル手法は,誤差率の指数収束率で,確率的に正しい可変選択を行うことができることを示す。
論文 参考訳(メタデータ) (2023-01-30T04:07:59Z) - High-dimensional Measurement Error Models for Lipschitz Loss [2.6415509201394283]
リプシッツ損失関数のクラスに対する高次元計測誤差モデルを開発する。
我々の推定器は、適切な実現可能な集合に属するすべての推定器の中で、$L_1$ノルムを最小化するように設計されている。
有限標本統計誤差境界と符号の整合性の観点から理論的な保証を導出する。
論文 参考訳(メタデータ) (2022-10-26T20:06:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。