論文の概要: DiffHybrid-UQ: Uncertainty Quantification for Differentiable Hybrid
Neural Modeling
- arxiv url: http://arxiv.org/abs/2401.00161v1
- Date: Sat, 30 Dec 2023 07:40:47 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-03 18:27:57.021926
- Title: DiffHybrid-UQ: Uncertainty Quantification for Differentiable Hybrid
Neural Modeling
- Title（参考訳）: DiffHybrid-UQ:微分可能なハイブリッドニューラルモデリングのための不確かさの定量化
- Authors: Deepak Akhare, Tengfei Luo, Jian-Xun Wang
- Abstract要約: 本稿では,ハイブリッドニューラル微分可能モデルにおける有効かつ効率的な不確実性伝播と推定のための新しい手法DiffHybrid-UQを提案する。
具体的には,データノイズとてんかんの不確かさから生じるアレタリック不確かさと,モデル形状の相違やデータ空間のばらつきから生じるエピステマティック不確かさの両方を効果的に識別し,定量化する。
- 参考スコア（独自算出の注目度）: 4.76185521514135
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The hybrid neural differentiable models mark a significant advancement in the
field of scientific machine learning. These models, integrating numerical
representations of known physics into deep neural networks, offer enhanced
predictive capabilities and show great potential for data-driven modeling of
complex physical systems. However, a critical and yet unaddressed challenge
lies in the quantification of inherent uncertainties stemming from multiple
sources. Addressing this gap, we introduce a novel method, DiffHybrid-UQ, for
effective and efficient uncertainty propagation and estimation in hybrid neural
differentiable models, leveraging the strengths of deep ensemble Bayesian
learning and nonlinear transformations. Specifically, our approach effectively
discerns and quantifies both aleatoric uncertainties, arising from data noise,
and epistemic uncertainties, resulting from model-form discrepancies and data
sparsity. This is achieved within a Bayesian model averaging framework, where
aleatoric uncertainties are modeled through hybrid neural models. The unscented
transformation plays a pivotal role in enabling the flow of these uncertainties
through the nonlinear functions within the hybrid model. In contrast, epistemic
uncertainties are estimated using an ensemble of stochastic gradient descent
(SGD) trajectories. This approach offers a practical approximation to the
posterior distribution of both the network parameters and the physical
parameters. Notably, the DiffHybrid-UQ framework is designed for simplicity in
implementation and high scalability, making it suitable for parallel computing
environments. The merits of the proposed method have been demonstrated through
problems governed by both ordinary and partial differentiable equations.
- Abstract（参考訳）: ハイブリッドニューラル微分可能モデルは、科学機械学習の分野で大きな進歩を示している。
これらのモデルは、既知の物理の数値表現をディープニューラルネットワークに統合し、予測能力を強化し、複雑な物理システムのデータ駆動モデリングに大きな可能性を示す。
しかし、批判的かつ未適応な課題は、複数の情報源から生じる固有の不確実性の定量化にある。
そこで本研究では,ニューラル・シグナブルモデルにおける効率良く効率的な不確実性伝播と推定のための新しい手法であるdiffhybrid-uqを提案する。
具体的には,データノイズとてんかんの不確かさから生じるアレタリック不確かさと,モデル形状の相違やデータ空間のばらつきから生じるエピステマティック不確かさの両方を効果的に識別し,定量化する。
これはベイズ平均化フレームワークで実現され、アレータリック不確実性はハイブリッドニューラルモデルによってモデル化される。
意図しない変換は、ハイブリッドモデル内の非線形関数を通してこれらの不確実性のフローを可能にする上で重要な役割を果たす。
対照的に、確率的勾配降下(sgd)軌道のアンサンブルを用いて認識的不確かさを推定する。
このアプローチは、ネットワークパラメータと物理パラメータの両方の後方分布に対する実用的な近似を提供する。
特にdiffhybrid-uqフレームワークは、実装の単純さと高いスケーラビリティのために設計されており、並列コンピューティング環境に適している。
提案手法の利点は、常微分方程式と部分微分方程式の両方が支配する問題によって証明されている。
関連論文リスト
- Inflationary Flows: Calibrated Bayesian Inference with Diffusion-Based Models [0.0]
本稿では,拡散モデルを用いてベイズ推定を行う方法を示す。
本稿では,新しいノイズスケジュールを用いて,標準的なDBMトレーニングを通じてそのようなマップを学習する方法を示す。
その結果は、低次元の潜在空間上で一意に定義される非常に表現性の高い生成モデルのクラスである。
論文 参考訳（メタデータ） (2024-07-11T19:58:19Z) - Towards stable real-world equation discovery with assessing
differentiating quality influence [52.2980614912553]
一般的に用いられる有限差分法に代わる方法を提案する。
我々は,これらの手法を実問題と類似した問題に適用可能であること,および方程式発見アルゴリズムの収束性を確保する能力の観点から評価する。
論文 参考訳（メタデータ） (2023-11-09T23:32:06Z) - HyperSINDy: Deep Generative Modeling of Nonlinear Stochastic Governing
Equations [5.279268784803583]
本稿では,データからのスパース制御方程式の深部生成モデルを用いた動的モデリングフレームワークHyperSINDyを紹介する。
一度訓練すると、HyperSINDyは、係数が白色雑音によって駆動される微分方程式を介して力学を生成する。
実験では、HyperSINDyはデータと一致するように学習度をスケーリングすることで、基底的真理支配方程式を復元する。
論文 参考訳（メタデータ） (2023-10-07T14:41:59Z) - Capturing dynamical correlations using implicit neural representations [85.66456606776552]
実験データから未知のパラメータを復元するために、モデルハミルトンのシミュレーションデータを模倣するために訓練されたニューラルネットワークと自動微分を組み合わせた人工知能フレームワークを開発する。
そこで本研究では, 実時間から多次元散乱データに適用可能な微分可能なモデルを1回だけ構築し, 訓練する能力について述べる。
論文 参考訳（メタデータ） (2023-04-08T07:55:36Z) - Deep Learning Aided Laplace Based Bayesian Inference for Epidemiological
Systems [2.596903831934905]
本稿では,Laplace をベースとしたベイズ推定と ANN アーキテクチャを併用して ODE 軌道の近似を求めるハイブリッド手法を提案する。
本手法の有効性を,非分析的ソリューションを用いた疫学システム,Susceptible-Infectious-Demoved (SIR) モデルを用いて実証した。
論文 参考訳（メタデータ） (2022-10-17T09:02:41Z) - A Variational Inference Approach to Inverse Problems with Gamma
Hyperpriors [60.489902135153415]
本稿では,ガンマハイパープライヤを用いた階層的逆問題に対する変分反復交替方式を提案する。
提案した変分推論手法は正確な再構成を行い、意味のある不確実な定量化を提供し、実装が容易である。
論文 参考訳（メタデータ） (2021-11-26T06:33:29Z) - Compositional Modeling of Nonlinear Dynamical Systems with ODE-based
Random Features [0.0]
この問題に対処するための新しいドメインに依存しないアプローチを提案する。
我々は、通常の微分方程式から導かれる物理インフォームド・ランダムな特徴の合成を用いる。
提案手法は,ベンチマーク回帰タスクにおいて,他の多くの確率モデルに匹敵する性能を実現する。
論文 参考訳（メタデータ） (2021-06-10T17:55:13Z) - Accurate and Reliable Forecasting using Stochastic Differential
Equations [48.21369419647511]
ディープラーニングモデルにとって、現実世界の環境に浸透する不確実性を適切に特徴付けることは、非常に困難である。
本論文では,HNNの予測平均と分散の相互作用を特徴づけるSDE-HNNを開発した。
本手法は,予測性能と不確実性定量化の両方の観点から,最先端のベースラインを著しく上回ることを示す。
論文 参考訳（メタデータ） (2021-03-28T04:18:11Z) - Identification of Probability weighted ARX models with arbitrary domains [75.91002178647165]
PieceWise Affineモデルは、ハイブリッドシステムの他のクラスに対する普遍近似、局所線型性、同値性を保証する。
本研究では,任意の領域を持つ固有入力モデル(NPWARX)を用いたPieceWise Auto Regressiveの同定に着目する。
このアーキテクチャは、機械学習の分野で開発されたMixture of Expertの概念に従って考案された。
論文 参考訳（メタデータ） (2020-09-29T12:50:33Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳（メタデータ） (2020-06-26T13:50:19Z) - Bayesian differential programming for robust systems identification
under uncertainty [14.169588600819546]
本稿では,非線形力学系のノイズ,スパース,不規則な観測からベイズ系を同定する機械学習フレームワークを提案する。
提案手法は、微分可能プログラミングの最近の発展を利用して、通常の微分方程式解法を用いて勾配情報を伝播する。
スパーシティプロモーティングプリエントを用いることで、下層の潜在力学に対する解釈可能かつ同義的な表現の発見が可能になる。
論文 参考訳（メタデータ） (2020-04-15T00:51:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。