論文の概要: Trajectory Flow Matching with Applications to Clinical Time Series Modeling
- arxiv url: http://arxiv.org/abs/2410.21154v1
- Date: Mon, 28 Oct 2024 15:54:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-10-29 12:19:38.264789
- Title: Trajectory Flow Matching with Applications to Clinical Time Series Modeling
- Title(参考訳): トラジェクティブフローマッチングと臨床時系列モデリングへの応用
- Authors: Xi Zhang, Yuan Pu, Yuki Kawamura, Andrew Loza, Yoshua Bengio, Dennis L. Shung, Alexander Tong,
- Abstract要約: Trajectory Flow Matching (TFM) は、シミュレーションのない方法でニューラルSDEを訓練し、ダイナミックスを通してバックプロパゲーションをバイパスする。
絶対的性能と不確実性予測の観点から,3つの臨床時系列データセットの性能向上を実証した。
- 参考スコア(独自算出の注目度): 77.58277281319253
- License:
- Abstract: Modeling stochastic and irregularly sampled time series is a challenging problem found in a wide range of applications, especially in medicine. Neural stochastic differential equations (Neural SDEs) are an attractive modeling technique for this problem, which parameterize the drift and diffusion terms of an SDE with neural networks. However, current algorithms for training Neural SDEs require backpropagation through the SDE dynamics, greatly limiting their scalability and stability. To address this, we propose Trajectory Flow Matching (TFM), which trains a Neural SDE in a simulation-free manner, bypassing backpropagation through the dynamics. TFM leverages the flow matching technique from generative modeling to model time series. In this work we first establish necessary conditions for TFM to learn time series data. Next, we present a reparameterization trick which improves training stability. Finally, we adapt TFM to the clinical time series setting, demonstrating improved performance on three clinical time series datasets both in terms of absolute performance and uncertainty prediction.
- Abstract(参考訳): 確率的および不規則にサンプリングされた時系列をモデル化することは、幅広い応用、特に医学において難しい問題である。
ニューラル確率微分方程式(Neural Stochastic differential equations,Neural SDEs)は、ニューラルネットワークによるSDEのドリフトと拡散の項をパラメータ化する、この問題の魅力的なモデリング手法である。
しかし、現在のニューラルSDEのトレーニングアルゴリズムは、SDEダイナミクスによるバックプロパゲーションを必要とし、スケーラビリティと安定性を大幅に制限している。
そこで本研究では,ニューラルSDEをシミュレーションのない方法で学習し,バックプロパゲーションを動的に回避するトラジェクティブフローマッチング(TFM)を提案する。
TFMは、生成モデルからモデル時系列へのフローマッチング技術を活用する。
本研究ではまず,時系列データの学習に必要な条件について述べる。
次に,トレーニングの安定性を向上させるためのパラメータ化手法を提案する。
最後に, TFMを臨床時系列設定に適用し, 絶対的性能と不確実性予測の両面で, 3つの臨床時系列データセットの性能向上を示す。
関連論文リスト
- Physics-constrained coupled neural differential equations for one dimensional blood flow modeling [0.3749861135832073]
計算心血管モデリングは、血流動態を理解する上で重要な役割を担っている。
有限要素法(FEM)に基づく従来の1次元モデルは、3次元平均解に比べて精度が低いことが多い。
本研究では1次元血流モデルの精度を向上させる物理制約付き機械学習手法を提案する。
論文 参考訳(メタデータ) (2024-11-08T15:22:20Z) - Equivariant Graph Neural Operator for Modeling 3D Dynamics [148.98826858078556]
我々は,次のステップの予測ではなく,ダイナミックスを直接トラジェクトリとしてモデル化するために,Equivariant Graph Neural Operator (EGNO)を提案する。
EGNOは3次元力学の時間的進化を明示的に学習し、時間とともに関数として力学を定式化し、それを近似するためにニューラル演算子を学習する。
粒子シミュレーション、人間のモーションキャプチャー、分子動力学を含む複数の領域における総合的な実験は、既存の手法と比較して、EGNOの極めて優れた性能を示す。
論文 参考訳(メタデータ) (2024-01-19T21:50:32Z) - A Neural PDE Solver with Temporal Stencil Modeling [44.97241931708181]
最近の機械学習(ML)モデルでは、高解像度信号において重要なダイナミクスを捉えることが約束されている。
この研究は、低解像度のダウンサンプリング機能で重要な情報が失われることがしばしばあることを示している。
本稿では,高度な時系列シーケンスモデリングと最先端のニューラルPDEソルバの強みを組み合わせた新しい手法を提案する。
論文 参考訳(メタデータ) (2023-02-16T06:13:01Z) - Learning PDE Solution Operator for Continuous Modeling of Time-Series [1.39661494747879]
この研究は、動的モデリング能力を改善する偏微分方程式(PDE)に基づくフレームワークを提案する。
時間的離散化の反復的操作や特定のグリッドを必要とせずに連続的に処理できるニューラル演算子を提案する。
我々のフレームワークは、現実世界のアプリケーションに容易に適用可能な、ニューラルネットワークの継続的な表現のための新しい方法を開く。
論文 参考訳(メタデータ) (2023-02-02T03:47:52Z) - Mixed Effects Neural ODE: A Variational Approximation for Analyzing the
Dynamics of Panel Data [50.23363975709122]
パネルデータ解析に(固定・ランダムな)混合効果を取り入れたME-NODEという確率モデルを提案する。
我々は、Wong-Zakai定理によって提供されるSDEの滑らかな近似を用いて、我々のモデルを導出できることを示す。
次に、ME-NODEのためのエビデンスに基づく下界を導出し、(効率的な)トレーニングアルゴリズムを開発する。
論文 参考訳(メタデータ) (2022-02-18T22:41:51Z) - Closed-form Continuous-Depth Models [99.40335716948101]
連続深度ニューラルモデルは高度な数値微分方程式解法に依存している。
我々は,CfCネットワークと呼ばれる,記述が簡単で,少なくとも1桁高速な新しいモデル群を提示する。
論文 参考訳(メタデータ) (2021-06-25T22:08:51Z) - Neural ODE Processes [64.10282200111983]
NDP(Neural ODE Process)は、Neural ODEの分布によって決定される新しいプロセスクラスである。
我々のモデルは,少数のデータポイントから低次元システムのダイナミクスを捉えることができることを示す。
論文 参考訳(メタデータ) (2021-03-23T09:32:06Z) - Accelerating Simulation of Stiff Nonlinear Systems using Continuous-Time
Echo State Networks [1.1545092788508224]
本研究では, 非線形常微分方程式の代用格子を動的に生成するデータ駆動手法を提案する。
加熱システムの物理的に動機付けられたスケーラブルなモデル上で,CTESNを用いたほぼ一定時間の性能を実証的に実証した。
論文 参考訳(メタデータ) (2020-10-07T17:40:06Z) - Learning Continuous-Time Dynamics by Stochastic Differential Networks [32.63114111531396]
変動微分ネットワーク(VSDN)という,フレキシブルな連続時間リカレントニューラルネットワークを提案する。
VSDNは神経微分方程式(SDE)による散発時間系列の複雑なダイナミクスを埋め込む
VSDNは最先端の継続的ディープラーニングモデルより優れており、散発時系列の予測やタスクにおいて優れた性能を発揮する。
論文 参考訳(メタデータ) (2020-06-11T01:40:34Z) - Liquid Time-constant Networks [117.57116214802504]
本稿では,時間連続リカレントニューラルネットワークモデルについて紹介する。
暗黙の非線形性によって学習システムの力学を宣言する代わりに、線形一階力学系のネットワークを構築する。
これらのニューラルネットワークは安定かつ有界な振る舞いを示し、ニューラル常微分方程式の族の中で優れた表現性をもたらす。
論文 参考訳(メタデータ) (2020-06-08T09:53:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。