論文の概要: Data-driven Modeling and Inference for Bayesian Gaussian Process ODEs
via Double Normalizing Flows
- arxiv url: http://arxiv.org/abs/2309.09222v2
- Date: Tue, 2 Jan 2024 13:09:37 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-03 19:50:08.831805
- Title: Data-driven Modeling and Inference for Bayesian Gaussian Process ODEs
via Double Normalizing Flows
- Title(参考訳): データ駆動モデリングと二重正規化フローによるベイズガウス過程ODEの推論
- Authors: Jian Xu, Shian Du, Junmei Yang, Xinghao Ding, John Paisley, Delu Zeng
- Abstract要約: 本稿では,ODEベクトル場を再パラメータ化するために正規化フローを導入し,データ駆動の事前分布を導出する。
また, GP ODE の後部推定に正規化フローを適用し, 強平均場仮定の問題を解く。
シミュレーション力学系と実世界の人間の動作データに対するアプローチの有効性を検証した。
- 参考スコア(独自算出の注目度): 28.62579476863723
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recently, Gaussian processes have been used to model the vector field of
continuous dynamical systems, referred to as GPODEs, which are characterized by
a probabilistic ODE equation. Bayesian inference for these models has been
extensively studied and applied in tasks such as time series prediction.
However, the use of standard GPs with basic kernels like squared exponential
kernels has been common in GPODE research, limiting the model's ability to
represent complex scenarios. To address this limitation, we introduce
normalizing flows to reparameterize the ODE vector field, resulting in a
data-driven prior distribution, thereby increasing flexibility and expressive
power. We develop a data-driven variational learning algorithm that utilizes
analytically tractable probability density functions of normalizing flows,
enabling simultaneous learning and inference of unknown continuous dynamics.
Additionally, we also apply normalizing flows to the posterior inference of GP
ODEs to resolve the issue of strong mean-field assumptions in posterior
inference. By applying normalizing flows in both these ways, our model improves
accuracy and uncertainty estimates for Bayesian Gaussian Process ODEs. We
validate the effectiveness of our approach on simulated dynamical systems and
real-world human motion data, including time series prediction and missing data
recovery tasks. Experimental results show that our proposed method effectively
captures model uncertainty while improving accuracy.
- Abstract(参考訳): 近年、ガウス過程は、確率的ODE方程式によって特徴づけられる連続力学系のベクトル場(GPODE)をモデル化するために用いられる。
これらのモデルに対するベイズ推定は、時系列予測のようなタスクに広く研究され、適用されてきた。
しかし、二乗指数カーネルのような基本カーネルを持つ標準GPの使用はGPODE研究で一般的であり、複雑なシナリオを表現する能力を制限する。
この制限に対処するために、正規化フローを導入し、ODEベクトル場を再パラメータ化し、データ駆動の事前分布をもたらし、柔軟性と表現力を高める。
本研究では,解析的に抽出可能な確率密度関数を正規化するデータ駆動変分学習アルゴリズムを開発し,未知の連続力学の同時学習と推論を可能にする。
さらに, GP ODE の後部推定に正規化フローを適用し, 後部推定における強平均場仮定の問題を解決する。
これらの両方の方法で正規化フローを適用することで、ベイズガウス過程 ode の精度と不確実性が向上する。
本研究では,時系列予測やデータ回復タスクの欠如を含むシミュレーション力学系と実世界の人間の動作データに対するアプローチの有効性を検証する。
実験の結果,提案手法は精度を高めつつ,モデルの不確かさを効果的に捉えていることがわかった。
関連論文リスト
- On the Trajectory Regularity of ODE-based Diffusion Sampling [79.17334230868693]
拡散に基づく生成モデルは微分方程式を用いて、複素データ分布と抽出可能な事前分布の間の滑らかな接続を確立する。
本稿では,拡散モデルのODEに基づくサンプリングプロセスにおいて,いくつかの興味深い軌道特性を同定する。
論文 参考訳(メタデータ) (2024-05-18T15:59:41Z) - Deep Latent Force Models: ODE-based Process Convolutions for Bayesian
Deep Learning [0.0]
深潜力モデル (DLFM) は、各層に物理インフォームドカーネルを持つ深いガウス過程である。
我々はDLFMの非線形実世界の時系列データに現れるダイナミクスを捉える能力の実証的証拠を提示する。
DLFMは,非物理インフォームド確率モデルに匹敵する性能を達成できることがわかった。
論文 参考訳(メタデータ) (2023-11-24T19:55:57Z) - Diffusion models for probabilistic programming [56.47577824219207]
拡散モデル変分推論(DMVI)は確率型プログラミング言語(PPL)における自動近似推論手法である
DMVIは実装が容易で、例えば正規化フローを用いた変分推論の欠点を伴わずに、PPLでヘイズルフリー推論が可能であり、基礎となるニューラルネットワークモデルに制約を課さない。
論文 参考訳(メタデータ) (2023-11-01T12:17:05Z) - Score-based Diffusion Models in Function Space [140.792362459734]
拡散モデルは、最近、生成モデリングの強力なフレームワークとして登場した。
本稿では,関数空間における拡散モデルをトレーニングするためのDDO(Denoising Diffusion Operators)という,数学的に厳密なフレームワークを提案する。
データ解像度に依存しない固定コストで、対応する離散化アルゴリズムが正確なサンプルを生成することを示す。
論文 参考訳(メタデータ) (2023-02-14T23:50:53Z) - FaDIn: Fast Discretized Inference for Hawkes Processes with General
Parametric Kernels [82.53569355337586]
この研究は、有限なサポートを持つ一般パラメトリックカーネルを用いた時間点プロセス推論の効率的な解を提供する。
脳磁図(MEG)により記録された脳信号からの刺激誘発パターンの発生をモデル化し,その有効性を評価する。
その結果,提案手法により,最先端技術よりもパターン遅延の推定精度が向上することが示唆された。
論文 参考訳(メタデータ) (2022-10-10T12:35:02Z) - Neural Flows: Efficient Alternative to Neural ODEs [8.01886971335823]
本稿では,ORのフローである解曲線を直接ニューラルネットワークでモデル化する手法を提案する。
これにより、ニューラルネットワークのモデリング能力を維持しながら、高価な数値解法の必要性はすぐに解消される。
論文 参考訳(メタデータ) (2021-10-25T15:24:45Z) - Compositional Modeling of Nonlinear Dynamical Systems with ODE-based
Random Features [0.0]
この問題に対処するための新しいドメインに依存しないアプローチを提案する。
我々は、通常の微分方程式から導かれる物理インフォームド・ランダムな特徴の合成を用いる。
提案手法は,ベンチマーク回帰タスクにおいて,他の多くの確率モデルに匹敵する性能を実現する。
論文 参考訳(メタデータ) (2021-06-10T17:55:13Z) - Flow-based Spatio-Temporal Structured Prediction of Motion Dynamics [21.24885597341643]
条件付き流れ (CNF) は、高次元と相互相関を持つ複雑な分布を表現できるフレキシブルな生成モデルである。
本研究では,時間的入力特徴の出力を自己回帰的に正規化する新しい手法としてMotionFlowを提案する。
本稿では,予測,動き予測時系列予測,二分節分割などのタスクに本手法を適用した。
論文 参考訳(メタデータ) (2021-04-09T14:30:35Z) - Leveraging Global Parameters for Flow-based Neural Posterior Estimation [90.21090932619695]
実験観測に基づくモデルのパラメータを推定することは、科学的方法の中心である。
特に困難な設定は、モデルが強く不確定であるとき、すなわち、パラメータの異なるセットが同一の観測をもたらすときである。
本稿では,グローバルパラメータを共有する観測の補助的セットによって伝達される付加情報を利用して,その不確定性を破る手法を提案する。
論文 参考訳(メタデータ) (2021-02-12T12:23:13Z) - SODEN: A Scalable Continuous-Time Survival Model through Ordinary
Differential Equation Networks [14.564168076456822]
本稿では、ニューラルネットワークとスケーラブルな最適化アルゴリズムを用いた生存分析のためのフレキシブルモデルを提案する。
提案手法の有効性を,既存の最先端ディープラーニングサバイバル分析モデルと比較した。
論文 参考訳(メタデータ) (2020-08-19T19:11:25Z) - SLEIPNIR: Deterministic and Provably Accurate Feature Expansion for
Gaussian Process Regression with Derivatives [86.01677297601624]
本稿では,2次フーリエ特徴に基づく導関数によるGP回帰のスケーリング手法を提案する。
我々は、近似されたカーネルと近似された後部の両方に適用される決定論的、非漸近的、指数関数的に高速な崩壊誤差境界を証明した。
論文 参考訳(メタデータ) (2020-03-05T14:33:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。