論文の概要: Efficient Bayesian inference using physics-informed invertible neural
networks for inverse problems
- arxiv url: http://arxiv.org/abs/2304.12541v3
- Date: Tue, 3 Oct 2023 03:11:35 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-05 10:21:21.643129
- Title: Efficient Bayesian inference using physics-informed invertible neural
networks for inverse problems
- Title（参考訳）: 物理インフォームドインバータブルニューラルネットワークを用いた逆問題に対する効率的なベイズ推論
- Authors: Xiaofei Guan, Xintong Wang, Hao Wu, Zihao Yang and Peng Yu
- Abstract要約: 物理インフォームド・インバータブルニューラルネットワーク(PI-INN)を利用したベイズ逆問題に対する革新的なアプローチを提案する。
PI-INNはベイズ逆問題に対して正確かつ効率的な生成モデルを提供し、抽出可能な後部密度推定をもたらす。
特定の物理インフォームドディープラーニングモデルとして、PI-INNの主要なトレーニング課題は独立性制約の強化である。
- 参考スコア（独自算出の注目度）: 6.97393424359704
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper, we introduce an innovative approach for addressing Bayesian
inverse problems through the utilization of physics-informed invertible neural
networks (PI-INN). The PI-INN framework encompasses two sub-networks: an
invertible neural network (INN) and a neural basis network (NB-Net). The
primary role of the NB-Net lies in modeling the spatial basis functions
characterizing the solution to the forward problem dictated by the underlying
partial differential equation. Simultaneously, the INN is designed to partition
the parameter vector linked to the input physical field into two distinct
components: the expansion coefficients representing the forward problem
solution and the Gaussian latent noise. If the forward mapping is precisely
estimated, and the statistical independence between expansion coefficients and
latent noise is well-maintained, the PI-INN offers a precise and efficient
generative model for Bayesian inverse problems, yielding tractable posterior
density estimates. As a particular physics-informed deep learning model, the
primary training challenge for PI-INN centers on enforcing the independence
constraint, which we tackle by introducing a novel independence loss based on
estimated density. We support the efficacy and precision of the proposed PI-INN
through a series of numerical experiments, including inverse kinematics,
1-dimensional and 2-dimensional diffusion equations, and seismic traveltime
tomography. Specifically, our experimental results showcase the superior
performance of the proposed independence loss in comparison to the commonly
used but computationally demanding kernel-based maximum mean discrepancy loss.
- Abstract（参考訳）: 本稿では,物理インフォームド・インバータブルニューラルネットワーク(PI-INN)を利用したベイズ逆問題に対する革新的なアプローチを提案する。
PI-INNフレームワークは、可逆ニューラルネットワーク(INN)とニューラルネットワーク(NB-Net)の2つのサブネットワークを含んでいる。
nb-net の主な役割は、基礎となる偏微分方程式によって引き起こされる前方問題に対する解を特徴づける空間基底関数のモデル化である。
同時に、INNは入力物理場にリンクされたパラメータベクトルを前方問題解を表す拡張係数とガウス潜在雑音の2つの異なる成分に分割するように設計されている。
フォワードマッピングが正確に推定され、拡張係数と遅延雑音の間の統計的独立性がよく維持されている場合、PI-INNはベイズ逆問題に対して正確かつ効率的な生成モデルを提供し、トラクタブルな後続密度推定をもたらす。
特定の物理インフォームド深層学習モデルとして、PI-INNの第一の訓練課題は、推定密度に基づいて新たな独立損失を導入することによる独立制約の強化である。
提案するpi-innの有効性と精度は,逆運動学,1次元および2次元拡散方程式,地震時トモグラフィなど,一連の数値実験によって支持する。
具体的には,カーネルベースの最大誤差損失を計算的に求める場合と比較して,提案した独立性損失の優れた性能を示す。
関連論文リスト
- General-Kindred Physics-Informed Neural Network to the Solutions of Singularly Perturbed Differential Equations [11.121415128908566]
我々は,Singular Perturbation Differential Equations(SPDE)の解法として,GKPINN(General-Kindred Physics-Informed Neural Network)を提案する。
この手法は, 境界層の事前知識を方程式から利用し, 境界層を近似するPINNを支援する新しいネットワークを確立する。
GKPINNは,確立したPINN法と比較して,2～4桁の誤差を2～4桁に削減し,大幅な性能向上を実現している。
論文 参考訳（メタデータ） (2024-08-27T02:03:22Z) - Benign Overfitting in Deep Neural Networks under Lazy Training [72.28294823115502]
データ分布が適切に分離された場合、DNNは分類のためのベイズ最適テスト誤差を達成できることを示す。
よりスムーズな関数との補間により、より一般化できることを示す。
論文 参考訳（メタデータ） (2023-05-30T19:37:44Z) - On the uncertainty analysis of the data-enabled physics-informed neural
network for solving neutron diffusion eigenvalue problem [4.0275959184316825]
いくつかの観点から中性子拡散固有値問題の計算におけるDEPINNの性能について検討する。
ノイズの影響を低減し,ノイズ先行データの利用を改善するために,革新的な区間損失関数を提案する。
本稿では, 原子炉物理の実用化に向けた改良型DEPINNの実現可能性を確認する。
論文 参考訳（メタデータ） (2023-03-15T08:59:03Z) - Momentum Diminishes the Effect of Spectral Bias in Physics-Informed
Neural Networks [72.09574528342732]
物理インフォームドニューラルネットワーク(PINN)アルゴリズムは、偏微分方程式(PDE)を含む幅広い問題を解く上で有望な結果を示している。
彼らはしばしば、スペクトルバイアスと呼ばれる現象のために、ターゲット関数が高周波の特徴を含むとき、望ましい解に収束しない。
本研究は, 運動量による勾配降下下で進化するPINNのトレーニングダイナミクスを, NTK(Neural Tangent kernel)を用いて研究するものである。
論文 参考訳（メタデータ） (2022-06-29T19:03:10Z) - Learning Physics-Informed Neural Networks without Stacked
Back-propagation [82.26566759276105]
我々は,物理インフォームドニューラルネットワークのトレーニングを著しく高速化する新しい手法を開発した。
特に、ガウス滑らか化モデルによりPDE解をパラメータ化し、スタインの恒等性から導かれる2階微分がバックプロパゲーションなしで効率的に計算可能であることを示す。
実験の結果,提案手法は通常のPINN訓練に比べて2桁の精度で競合誤差を実現できることがわかった。
論文 参考訳（メタデータ） (2022-02-18T18:07:54Z) - Mean-field Analysis of Piecewise Linear Solutions for Wide ReLU Networks [83.58049517083138]
勾配勾配勾配を用いた2層ReLUネットワークについて検討する。
SGDは単純な解に偏りがあることが示される。
また,データポイントと異なる場所で結び目が発生するという経験的証拠も提供する。
論文 参考訳（メタデータ） (2021-11-03T15:14:20Z) - Robust Learning of Physics Informed Neural Networks [2.86989372262348]
物理インフォームドニューラルネットワーク(PINN)は偏微分方程式の解法に有効であることが示されている。
本稿では、PINNがトレーニングデータのエラーに敏感であり、これらのエラーをPDEの解領域上で動的に伝播させるのに過度に適合していることを示す。
論文 参考訳（メタデータ） (2021-10-26T00:10:57Z) - Multi-fidelity Bayesian Neural Networks: Algorithms and Applications [0.0]
本稿では,可変忠実度の雑音データを用いて訓練できるベイズ型ニューラルネットワーク(BNN)を提案する。
関数近似の学習や、偏微分方程式(PDE)に基づく逆問題の解法に応用する。
論文 参考訳（メタデータ） (2020-12-19T02:03:53Z) - Provably Efficient Neural Estimation of Structural Equation Model: An
Adversarial Approach [144.21892195917758]
一般化構造方程式モデル(SEM)のクラスにおける推定について検討する。
線形作用素方程式をmin-maxゲームとして定式化し、ニューラルネットワーク(NN)でパラメータ化し、勾配勾配を用いてニューラルネットワークのパラメータを学習する。
提案手法は,サンプル分割を必要とせず,確固とした収束性を持つNNをベースとしたSEMの抽出可能な推定手順を初めて提供する。
論文 参考訳（メタデータ） (2020-07-02T17:55:47Z) - Multipole Graph Neural Operator for Parametric Partial Differential
Equations [57.90284928158383]
物理系をシミュレーションするためのディープラーニングベースの手法を使用する際の大きな課題の1つは、物理ベースのデータの定式化である。
線形複雑度のみを用いて、あらゆる範囲の相互作用をキャプチャする、新しいマルチレベルグラフニューラルネットワークフレームワークを提案する。
実験により, 離散化不変解演算子をPDEに学習し, 線形時間で評価できることを確認した。
論文 参考訳（メタデータ） (2020-06-16T21:56:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。