論文の概要: Cubature Kalman Filter Based Training of Hybrid Differential Equation
Recurrent Neural Network Physiological Dynamic Models
- arxiv url: http://arxiv.org/abs/2110.06089v1
- Date: Tue, 12 Oct 2021 15:38:13 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-13 16:59:39.535580
- Title: Cubature Kalman Filter Based Training of Hybrid Differential Equation
Recurrent Neural Network Physiological Dynamic Models
- Title（参考訳）: Cubature Kalman Filter を用いたハイブリッド微分方程式 Recurrent Neural Network Physiological Dynamic Model の学習
- Authors: Ahmet Demirkaya, Tales Imbiriba, Kyle Lockwood, Sumientra Rampersad,
Elie Alhajjar, Giovanna Guidoboni, Zachary Danziger, Deniz Erdogmus
- Abstract要約: ニューラルネットワーク近似を用いて、未知の常微分方程式を既知のODEで近似する方法を示す。
その結果、このRBSEによるNNパラメータのトレーニングは、バックプロパゲーションによるニューラルネットワークのトレーニングよりも優れた結果(測定/状態推定精度)が得られることが示唆された。
- 参考スコア（独自算出の注目度）: 13.637931956861758
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Modeling biological dynamical systems is challenging due to the
interdependence of different system components, some of which are not fully
understood. To fill existing gaps in our ability to mechanistically model
physiological systems, we propose to combine neural networks with physics-based
models. Specifically, we demonstrate how we can approximate missing ordinary
differential equations (ODEs) coupled with known ODEs using Bayesian filtering
techniques to train the model parameters and simultaneously estimate dynamic
state variables. As a study case we leverage a well-understood model for blood
circulation in the human retina and replace one of its core ODEs with a neural
network approximation, representing the case where we have incomplete knowledge
of the physiological state dynamics. Results demonstrate that state dynamics
corresponding to the missing ODEs can be approximated well using a neural
network trained using a recursive Bayesian filtering approach in a fashion
coupled with the known state dynamic differential equations. This demonstrates
that dynamics and impact of missing state variables can be captured through
joint state estimation and model parameter estimation within a recursive
Bayesian state estimation (RBSE) framework. Results also indicate that this
RBSE approach to training the NN parameters yields better outcomes
(measurement/state estimation accuracy) than training the neural network with
backpropagation through time in the same setting.
- Abstract（参考訳）: 生体力学系のモデリングは、異なるシステムコンポーネントの相互依存のために困難であり、その一部は完全には理解されていない。
物理系を機械的にモデル化する能力の既存のギャップを埋めるため,ニューラルネットワークと物理モデルを組み合わせることを提案する。
具体的には、ベイジアンフィルタ法を用いて、未知の常微分方程式(ODE)と既知のODEを結合してモデルパラメータをトレーニングし、動的状態変数を同時に推定する方法を示す。
研究ケースとして、人間の網膜における血液循環についてよく理解されたモデルを利用し、その中核となるODEの1つをニューラルネットワーク近似で置き換える。
その結果、欠落したodeに対応する状態ダイナミクスは、既知の状態動的微分方程式と組み合わされた方法で再帰ベイズフィルタリングアプローチを用いて訓練されたニューラルネットワークを用いてよく近似できることが示された。
これにより、再帰ベイズ状態推定(rbse)フレームワーク内の合同状態推定とモデルパラメータ推定により、行方不明状態変数のダイナミクスと影響を捉えることができる。
また、このRBSEによるNNパラメータのトレーニングは、同じ環境でのバックプロパゲーションでニューラルネットワークをトレーニングするよりも、より良い結果(測定/状態推定精度)が得られることを示す。
関連論文リスト
- Latent Space Energy-based Neural ODEs [73.01344439786524]
本稿では,連続時間シーケンスデータを表現するために設計された深部力学モデルの新しいファミリを紹介する。
マルコフ連鎖モンテカルロの最大推定値を用いてモデルを訓練する。
発振システム、ビデオ、実世界の状態シーケンス(MuJoCo)の実験は、学習可能なエネルギーベース以前のODEが既存のものより優れていることを示している。
論文 参考訳（メタデータ） (2024-09-05T18:14:22Z) - Analysis of Numerical Integration in RNN-Based Residuals for Fault
Diagnosis of Dynamic Systems [0.6999740786886536]
本論文は,重度トラックの後処理システムの事例スタディを含み,これらの技術が故障診断性能を向上させる可能性を明らかにする。
データ駆動モデリングと機械学習は、動的システムの振る舞いをモデル化するために広く使われている。
論文 参考訳（メタデータ） (2023-05-08T12:48:18Z) - Capturing dynamical correlations using implicit neural representations [85.66456606776552]
実験データから未知のパラメータを復元するために、モデルハミルトンのシミュレーションデータを模倣するために訓練されたニューラルネットワークと自動微分を組み合わせた人工知能フレームワークを開発する。
そこで本研究では, 実時間から多次元散乱データに適用可能な微分可能なモデルを1回だけ構築し, 訓練する能力について述べる。
論文 参考訳（メタデータ） (2023-04-08T07:55:36Z) - EINNs: Epidemiologically-Informed Neural Networks [75.34199997857341]
本稿では,疫病予測のための新しい物理インフォームドニューラルネットワークEINNを紹介する。
メカニスティックモデルによって提供される理論的柔軟性と、AIモデルによって提供されるデータ駆動表現性の両方を活用する方法について検討する。
論文 参考訳（メタデータ） (2022-02-21T18:59:03Z) - Accelerating Neural ODEs Using Model Order Reduction [0.0]
本稿では,ニューラルネットワークの圧縮と高速化に数学的モデルオーダー削減法が利用できることを示す。
我々は,ニューラルネットワークの層として必要な部分空間投影と操作を統合するニューラルODEを開発することで,新しい圧縮手法を実装した。
論文 参考訳（メタデータ） (2021-05-28T19:27:09Z) - Artificial neural network as a universal model of nonlinear dynamical
systems [0.0]
このマップは、重みがモデル化されたシステムをエンコードする人工知能ニューラルネットワークとして構築されている。
ローレンツ系、ロースラー系およびヒンドマール・ロースニューロンを考察する。
誘引子、パワースペクトル、分岐図、リャプノフ指数の視覚像に高い類似性が観察される。
論文 参考訳（メタデータ） (2021-03-06T16:02:41Z) - Constrained Block Nonlinear Neural Dynamical Models [1.3163098563588727]
既知の優先度によって調整されたニューラルネットワークモジュールは、非線形ダイナミクスを持つシステムを表現するために効果的に訓練および結合することができる。
提案手法は,入力,状態,出力のダイナミクスを表現するニューラルネットワークブロックで構成され,ネットワーク重みとシステム変数に制約を課す。
3つの非線形システムのシステム識別タスクにおける提案アーキテクチャと学習手法の性能評価を行った。
論文 参考訳（メタデータ） (2021-01-06T04:27:54Z) - Parameter Estimation with Dense and Convolutional Neural Networks
Applied to the FitzHugh-Nagumo ODE [0.0]
密度層と畳み込み層を用いた深層ニューラルネットワークを逆問題として提示し,Fitz-Nagumoモデルのパラメータを推定する。
深層ニューラルネットワークは、動的モデルやプロセスにおけるパラメータを推定する可能性があり、フレームワークのパラメータを正確に予測することができることを実証する。
論文 参考訳（メタデータ） (2020-12-12T01:20:42Z) - Provably Efficient Neural Estimation of Structural Equation Model: An
Adversarial Approach [144.21892195917758]
一般化構造方程式モデル(SEM)のクラスにおける推定について検討する。
線形作用素方程式をmin-maxゲームとして定式化し、ニューラルネットワーク(NN)でパラメータ化し、勾配勾配を用いてニューラルネットワークのパラメータを学習する。
提案手法は,サンプル分割を必要とせず,確固とした収束性を持つNNをベースとしたSEMの抽出可能な推定手順を初めて提供する。
論文 参考訳（メタデータ） (2020-07-02T17:55:47Z) - An Ode to an ODE [78.97367880223254]
我々は、O(d) 群上の行列フローに応じて主フローの時間依存パラメータが進化する ODEtoODE と呼ばれるニューラルODE アルゴリズムの新しいパラダイムを提案する。
この2つの流れのネストされたシステムは、訓練の安定性と有効性を提供し、勾配の消滅・爆発問題を確実に解決する。
論文 参考訳（メタデータ） (2020-06-19T22:05:19Z) - Stochasticity in Neural ODEs: An Empirical Study [68.8204255655161]
ニューラルネットワークの正規化(ドロップアウトなど)は、より高度な一般化を可能にするディープラーニングの広範な技術である。
トレーニング中のデータ拡張は、同じモデルの決定論的およびバージョンの両方のパフォーマンスを向上させることを示す。
しかし、データ拡張によって得られる改善により、経験的正規化の利得は完全に排除され、ニューラルODEとニューラルSDEの性能は無視される。
論文 参考訳（メタデータ） (2020-02-22T22:12:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。