論文の概要: Efficient Bayesian Physics Informed Neural Networks for Inverse Problems
via Ensemble Kalman Inversion
- arxiv url: http://arxiv.org/abs/2303.07392v1
- Date: Mon, 13 Mar 2023 18:15:26 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-15 17:48:28.815598
- Title: Efficient Bayesian Physics Informed Neural Networks for Inverse Problems
via Ensemble Kalman Inversion
- Title(参考訳): エンサンブルカルマンインバージョンによる逆問題に対する効率よいベイズ物理学インフォームドニューラルネットワーク
- Authors: Andrew Pensoneault and Xueyu Zhu
- Abstract要約: 本稿では,高次元推論タスクにEnsemble Kalman Inversion (EKI) を用いるB-PINNの新しい効率的な推論アルゴリズムを提案する。
提案手法は,ハミルトン・モンテカルロ (HMC) ベースのB-PINNに匹敵する情報的不確実性を推定し,計算コストを大幅に削減できることを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Bayesian Physics Informed Neural Networks (B-PINNs) have gained significant
attention for inferring physical parameters and learning the forward solutions
for problems based on partial differential equations. However, the
overparameterized nature of neural networks poses a computational challenge for
high-dimensional posterior inference. Existing inference approaches, such as
particle-based or variance inference methods, are either computationally
expensive for high-dimensional posterior inference or provide unsatisfactory
uncertainty estimates. In this paper, we present a new efficient inference
algorithm for B-PINNs that uses Ensemble Kalman Inversion (EKI) for
high-dimensional inference tasks. We find that our proposed method can achieve
inference results with informative uncertainty estimates comparable to
Hamiltonian Monte Carlo (HMC)-based B-PINNs with a much reduced computational
cost. These findings suggest that our proposed approach has great potential for
uncertainty quantification in physics-informed machine learning for practical
applications.
- Abstract(参考訳): ベイズ物理学Informed Neural Networks (B-PINNs) は、物理パラメータを推論し、偏微分方程式に基づく問題に対する前方解の学習において大きな注目を集めている。
しかし、ニューラルネットワークの過剰パラメータの性質は、高次元の後方推定の計算上の課題をもたらす。
粒子ベースや分散推論法のような既存の推論手法は、高次元の後方推定に計算コストがかかるか、不確かさの見積もりが不十分かのどちらかである。
本稿では,高次元推論タスクにEnsemble Kalman Inversion (EKI) を用いるB-PINNの新しい効率的な推論アルゴリズムを提案する。
提案手法は,ハミルトン・モンテカルロ (HMC) ベースのB-PINNに匹敵する情報的不確実性を推定し,計算コストを大幅に削減できることを示す。
これらの結果から,本提案手法は物理インフォームド機械学習における不確実性定量化の可能性が大きいことが示唆された。
関連論文リスト
- Improvement of Bayesian PINN Training Convergence in Solving Multi-scale PDEs with Noise [34.11898314129823]
実際には、ハミルトン・モンテカルロ (HMC) はBPINNの内部パラメータを推定するのによく使われ、しばしばトラブルに遭遇する。
マルチスケールニューラルネットワーク (MscaleDNN) とベイズ推論を統合することで, 堅牢なマルチスケールベイズPINN (dubed MBPINN) 法を開発した。
その結果,提案手法はHMCの故障を回避し,有効な結果が得られることがわかった。
論文 参考訳(メタデータ) (2024-08-18T03:20:16Z) - Physics-Informed Neural Networks for an optimal counterdiabatic quantum
computation [32.73124984242397]
我々は,N_Q$量子ビットを持つ系からなる量子回路の最適化において,物理インフォームドニューラルネットワーク(PINN)の強度を活用して,逆ダイアバティック(CD)プロトコルに対処する新しい手法を提案する。
この手法の主な応用は、STO-3Gベースの2量子および4量子系で表される$mathrmH_2$と$mathrmLiH$分子である。
論文 参考訳(メタデータ) (2023-09-08T16:55:39Z) - Learning Active Subspaces for Effective and Scalable Uncertainty
Quantification in Deep Neural Networks [13.388835540131508]
本稿では,ニューラルネットワークパラメータの低次元部分空間を構築するための新しい手法を提案する。
その結果, 有効かつスケーラブルなベイズ推定が可能であることを実証した。
提案手法は, 各種回帰タスクに対して, 頑健な不確実性推定を伴う信頼性予測を提供する。
論文 参考訳(メタデータ) (2023-09-06T15:00:36Z) - Information Bottleneck Analysis of Deep Neural Networks via Lossy Compression [37.69303106863453]
Information Bottleneck(IB)原則は、ディープニューラルネットワーク(DNN)のトレーニングプロセスを分析するための情報理論フレームワークを提供する。
本稿では,一般NNのICB解析を行うためのフレームワークを提案する。
また,MI力学の新たな特徴を明らかにするため,実規模に近いISB解析を行う。
論文 参考訳(メタデータ) (2023-05-13T21:44:32Z) - Efficient Bayesian inference using physics-informed invertible neural
networks for inverse problems [6.97393424359704]
物理インフォームド・インバータブルニューラルネットワーク(PI-INN)を利用したベイズ逆問題に対する革新的なアプローチを提案する。
PI-INNはベイズ逆問題に対して正確かつ効率的な生成モデルを提供し、抽出可能な後部密度推定をもたらす。
特定の物理インフォームドディープラーニングモデルとして、PI-INNの主要なトレーニング課題は独立性制約の強化である。
論文 参考訳(メタデータ) (2023-04-25T03:17:54Z) - Bayesian deep learning framework for uncertainty quantification in high
dimensions [6.282068591820945]
我々はベイズニューラルネットワーク(BNN)とハミルトンモンテカルロ(HMC)に基づく偏微分方程式の不確実性定量化のための新しい深層学習法を開発した。
BNNは、ネットワークパラメータに対してベイズ推論を行うことにより、ディープニューラルネットワークにおけるパラメータの後方分布を効率的に学習する。
後部分布は、HMCを用いて効率よくサンプリングされ、システムの不確かさを定量化する。
論文 参考訳(メタデータ) (2022-10-21T05:20:06Z) - Single Model Uncertainty Estimation via Stochastic Data Centering [39.71621297447397]
私たちは、ディープニューラルネットワークの不確実性を見積もることに興味があります。
我々は、一定のバイアスによってシフトしたデータセットに基づいてトレーニングされた、同じ重み付きニューラルネットワークのアンサンブルが、わずかに一貫性のないトレーニングモデルを引き起こすという驚くべき新しい発見を提示する。
我々は、$Delta-$UQの不確実性推定が、様々なベンチマークにおける現在の多くの手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2022-07-14T23:54:54Z) - Learning Physics-Informed Neural Networks without Stacked
Back-propagation [82.26566759276105]
我々は,物理インフォームドニューラルネットワークのトレーニングを著しく高速化する新しい手法を開発した。
特に、ガウス滑らか化モデルによりPDE解をパラメータ化し、スタインの恒等性から導かれる2階微分がバックプロパゲーションなしで効率的に計算可能であることを示す。
実験の結果,提案手法は通常のPINN訓練に比べて2桁の精度で競合誤差を実現できることがわかった。
論文 参考訳(メタデータ) (2022-02-18T18:07:54Z) - Robust Learning of Physics Informed Neural Networks [2.86989372262348]
物理インフォームドニューラルネットワーク(PINN)は偏微分方程式の解法に有効であることが示されている。
本稿では、PINNがトレーニングデータのエラーに敏感であり、これらのエラーをPDEの解領域上で動的に伝播させるのに過度に適合していることを示す。
論文 参考訳(メタデータ) (2021-10-26T00:10:57Z) - NTopo: Mesh-free Topology Optimization using Implicit Neural
Representations [35.07884509198916]
トポロジ最適化問題に対処する新しい機械学習手法を提案する。
我々は多層パーセプトロン(MLP)を用いて密度場と変位場の両方をパラメータ化する。
実験を通じて示すように、私たちのアプローチの大きな利点は、継続的ソリューション空間の自己教師付き学習を可能にすることです。
論文 参考訳(メタデータ) (2021-02-22T05:25:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。