論文の概要: Adaptive operator learning for infinite-dimensional Bayesian inverse
problems
- arxiv url: http://arxiv.org/abs/2310.17844v2
- Date: Mon, 4 Mar 2024 08:10:34 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-07 01:46:47.106993
- Title: Adaptive operator learning for infinite-dimensional Bayesian inverse
problems
- Title(参考訳): 無限次元ベイズ逆問題に対する適応作用素学習
- Authors: Zhiwei Gao, Liang Yan, Tao Zhou
- Abstract要約: 本研究では,局所的に精度の高いサロゲートを強制することによって,モデリングエラーを段階的に低減できる適応型演算子学習フレームワークを開発した。
UKIフレームワークを用いて線形の場合において厳密な収束を保証する。
その結果,逆精度を維持しながら計算コストを大幅に削減できることがわかった。
- 参考スコア(独自算出の注目度): 8.672948020721945
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The fundamental computational issues in Bayesian inverse problems (BIP)
governed by partial differential equations (PDEs) stem from the requirement of
repeated forward model evaluations. A popular strategy to reduce such costs is
to replace expensive model simulations with computationally efficient
approximations using operator learning, motivated by recent progress in deep
learning. However, using the approximated model directly may introduce a
modeling error, exacerbating the already ill-posedness of inverse problems.
Thus, balancing between accuracy and efficiency is essential for the effective
implementation of such approaches. To this end, we develop an adaptive operator
learning framework that can reduce modeling error gradually by forcing the
surrogate to be accurate in local areas. This is accomplished by adaptively
fine-tuning the pre-trained approximate model with train- ing points chosen by
a greedy algorithm during the posterior computational process. To validate our
approach, we use DeepOnet to construct the surrogate and unscented Kalman
inversion (UKI) to approximate the BIP solution, respectively. Furthermore, we
present a rigorous convergence guarantee in the linear case using the UKI
framework. The approach is tested on a number of benchmarks, including the
Darcy flow, the heat source inversion problem, and the reaction-diffusion
problem. The numerical results show that our method can significantly reduce
computational costs while maintaining inversion accuracy.
- Abstract(参考訳): 偏微分方程式 (PDE) によって支配されるベイズ逆問題 (BIP) の基本計算問題は、連続した前方モデル評価の要求に由来する。
このようなコストを削減するための一般的な戦略は、高価なモデルシミュレーションを演算子学習を用いた計算効率の良い近似に置き換えることである。
しかし、近似モデルを直接使用するとモデリングエラーが発生し、逆問題の不適切さが悪化する可能性がある。
このような手法を効果的に実施するには,精度と効率のバランスが不可欠である。
そこで本研究では,サロゲートを局所領域で精度の高いものにすることで,モデリング誤差を徐々に低減できる適応型演算子学習フレームワークを開発した。
これは、事前訓練された近似モデルを、後続計算過程において、グレディアルゴリズムによって選択された列車入力点で適応的に微調整することで達成される。
提案手法の有効性を検証するため,我々はDeepOnetを用いてサロゲートとアンセントカルマンインバージョン(UKI)を構築し,それぞれBIP解を近似する。
さらに、UKIフレームワークを用いた線形ケースにおいて、厳密な収束を保証する。
このアプローチは、ダーシーフロー、熱源反転問題、反応拡散問題など、いくつかのベンチマークでテストされている。
その結果,逆精度を維持しながら計算コストを大幅に削減できることがわかった。
関連論文リスト
- Accelerated zero-order SGD under high-order smoothness and overparameterized regime [79.85163929026146]
凸最適化問題を解くための新しい勾配のないアルゴリズムを提案する。
このような問題は医学、物理学、機械学習で発生する。
両種類の雑音下で提案アルゴリズムの収束保証を行う。
論文 参考訳(メタデータ) (2024-11-21T10:26:17Z) - An Optimization-based Deep Equilibrium Model for Hyperspectral Image
Deconvolution with Convergence Guarantees [71.57324258813675]
本稿では,ハイパースペクトル画像のデコンボリューション問題に対処する新しい手法を提案する。
新しい最適化問題を定式化し、学習可能な正規化器をニューラルネットワークの形で活用する。
導出した反復解法は、Deep Equilibriumフレームワーク内の不動点計算問題として表現される。
論文 参考訳(メタデータ) (2023-06-10T08:25:16Z) - Adaptive Sparse Gaussian Process [0.0]
これらの問題に対処できる最初の適応スパースガウスプロセス(GP)を提案する。
まず,変分スパースGPアルゴリズムを変形係数によって適応的に再構成する。
そこで我々は,新しいサンプルが到着するたびに,スパースGPモデルの単一誘導点と残りのモデルパラメータを同時に更新することを提案する。
論文 参考訳(メタデータ) (2023-02-20T21:34:36Z) - Introduction To Gaussian Process Regression In Bayesian Inverse
Problems, With New ResultsOn Experimental Design For Weighted Error Measures [0.0]
この研究は、特に逆問題に対する代理モデルを構築する文脈において、ガウス過程回帰の導入として機能する。
本研究は, 正の後方分布と近似の後方分布との誤差が, 正の後方分布の重み付けした$L2$-normで測定された真と近似の近さの誤差によって有界となることを示す。
論文 参考訳(メタデータ) (2023-02-09T09:25:39Z) - Deep Equilibrium Optical Flow Estimation [80.80992684796566]
最近のSOTA(State-of-the-art)光フローモデルでは、従来のアルゴリズムをエミュレートするために有限ステップの更新操作を使用する。
これらのRNNは大きな計算とメモリオーバーヘッドを課し、そのような安定した推定をモデル化するために直接訓練されていない。
暗黙的層の無限レベル固定点として直接流れを解く手法として,Deep equilibrium Flow estimatorを提案する。
論文 参考訳(メタデータ) (2022-04-18T17:53:44Z) - Robust lEarned Shrinkage-Thresholding (REST): Robust unrolling for
sparse recover [87.28082715343896]
我々は、モデルミス特定を前進させるのに堅牢な逆問題を解決するためのディープニューラルネットワークについて検討する。
我々は,アルゴリズムの展開手法を根底にある回復問題のロバストバージョンに適用することにより,新しい堅牢なディープニューラルネットワークアーキテクチャを設計する。
提案したRESTネットワークは,圧縮センシングとレーダイメージングの両問題において,最先端のモデルベースおよびデータ駆動アルゴリズムを上回る性能を示す。
論文 参考訳(メタデータ) (2021-10-20T06:15:45Z) - Variational Inference with NoFAS: Normalizing Flow with Adaptive
Surrogate for Computationally Expensive Models [7.217783736464403]
マルコフ連鎖モンテカルロのようなサンプリングに基づくアプローチの使用は、それぞれの可能性評価が計算的に高価であるときに難解になる可能性がある。
変分推論と正規化フローを組み合わせた新しいアプローチは、潜在変数空間の次元と線形にしか成長しない計算コストによって特徴づけられる。
本稿では,ニューラルネットワークサロゲートモデルの正規化フローパラメータと重みを代わりに更新する最適化戦略である,適応サロゲートを用いた正規化フロー(NoFAS)を提案する。
論文 参考訳(メタデータ) (2021-08-28T14:31:45Z) - Deep Equilibrium Architectures for Inverse Problems in Imaging [14.945209750917483]
ディープニューラルネットワークによるイメージングにおける逆問題に対する最近の取り組みは、最適化手法の一定数の反復に触発されたアーキテクチャを使用している。
本稿では,再構成精度を4dB PSNRに向上させた,無限の繰り返しに対応する代替手法について述べる。
論文 参考訳(メタデータ) (2021-02-16T03:49:58Z) - Combining Deep Learning and Optimization for Security-Constrained
Optimal Power Flow [94.24763814458686]
セキュリティに制約のある最適電力フロー(SCOPF)は、電力システムの基本である。
SCOPF問題におけるAPRのモデル化は、複雑な大規模混合整数プログラムをもたらす。
本稿では,ディープラーニングとロバスト最適化を組み合わせた新しい手法を提案する。
論文 参考訳(メタデータ) (2020-07-14T12:38:21Z) - Extrapolation for Large-batch Training in Deep Learning [72.61259487233214]
我々は、バリエーションのホストが、我々が提案する統一されたフレームワークでカバー可能であることを示す。
本稿では,この手法の収束性を証明し,ResNet,LSTM,Transformer上での経験的性能を厳格に評価する。
論文 参考訳(メタデータ) (2020-06-10T08:22:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。