論文の概要: TrajGPT: Irregular Time-Series Representation Learning for Health Trajectory Analysis

• arxiv url: http://arxiv.org/abs/2410.02133v1
• Date: Thu, 3 Oct 2024 01:31:20 GMT
• ステータス: 処理完了
• システム内更新日: 2024-11-04 08:35:44.725836
• Title: TrajGPT: Irregular Time-Series Representation Learning for Health Trajectory Analysis
• Title（参考訳）: TrajGPT:健康軌道分析のための不規則な時系列表現学習
• Authors: Ziyang Song, Qingcheng Lu, He Zhu, David Buckeridge, Yue Li,
• Abstract要約: 我々は、TrajGPT(Trajectory Generative Pre-trained Transformer)と呼ばれる時系列変換器を提案する。 TrajGPTは、文脈に基づいて無関係な過去の情報を適応的にフィルタリングするために、データ依存の減衰を用いる。 実験の結果,TrajGPTはタスク固有の微調整を必要とせず,軌跡予測,薬物使用予測,表現型分類に優れていた。
• 参考スコア（独自算出の注目度）: 9.184876113048523
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In many domains, such as healthcare, time-series data is often irregularly sampled with varying intervals between observations. This poses challenges for classical time-series models that require equally spaced data. To address this, we propose a novel time-series Transformer called Trajectory Generative Pre-trained Transformer (TrajGPT). TrajGPT employs a novel Selective Recurrent Attention (SRA) mechanism, which utilizes a data-dependent decay to adaptively filter out irrelevant past information based on contexts. By interpreting TrajGPT as discretized ordinary differential equations (ODEs), it effectively captures the underlying continuous dynamics and enables time-specific inference for forecasting arbitrary target timesteps. Experimental results demonstrate that TrajGPT excels in trajectory forecasting, drug usage prediction, and phenotype classification without requiring task-specific fine-tuning. By evolving the learned continuous dynamics, TrajGPT can interpolate and extrapolate disease risk trajectories from partially-observed time series. The visualization of predicted health trajectories shows that TrajGPT forecasts unseen diseases based on the history of clinically relevant phenotypes (i.e., contexts).
• Abstract（参考訳）: 医療などの多くの領域では、時系列データは観測間隔によって不規則にサンプリングされることが多い。 これは、等間隔のデータを必要とする古典的な時系列モデルに課題をもたらす。 そこで本研究では,Trjectory Generative Pre-trained Transformer (TrajGPT) と呼ばれる新しい時系列変換器を提案する。 TrajGPTはSRA(Selective Recurrent Attention)という新しいメカニズムを採用しており、これはデータ依存の減衰を利用してコンテキストに基づいて無関係な過去の情報を適応的にフィルタリングする。 TrajGPTを離散化常微分方程式(ODE)として解釈することにより、基礎となる連続力学を効果的に捉え、任意の目標時間ステップを予測する時間固有推論を可能にする。 実験の結果,TrajGPTはタスク固有の微調整を必要とせず,軌跡予測,薬物使用予測,表現型分類に優れていた。 学習された連続力学を進化させることで、TrajGPTは部分的に観察された時系列から病気リスクの軌跡を補間し、外挿することができる。 予測された健康軌道の可視化は、TrajGPTが臨床的に関連のある表現型(文脈)の歴史に基づいて、見えない病気を予測していることを示している。

関連論文リスト

• TrajGPT: Controlled Synthetic Trajectory Generation Using a Multitask Transformer-Based Spatiotemporal Model [5.5481213807584995]
  本稿では,これらの問題に対処するために,トランスフォーマーベースのマルチタスク共同生成モデルであるTrajGPTを紹介する。 大規模言語モデルからインスピレーションを得て、TrajGPTは自然言語でテキストを埋め込むような制御された軌跡生成の問題を提起する。 公開およびプライベートデータセットを用いた実験により、TrajGPTは、制御された合成訪問生成に優れるだけでなく、次の位置予測タスクにおいて競合するモデルよりも優れていることが示された。
  論文  参考訳（メタデータ） (2024-11-07T02:47:50Z)
• Robust Multivariate Time Series Forecasting against Intra- and Inter-Series Transitional Shift [40.734564394464556]
  本稿では,時系列内/時系列間の相関関係を統合的に把握し,時変遷移分布をモデル化するための統一確率グラフモデルを提案する。 6つの高定常MTSデータセットに対する広範囲な実験により、JointPGMの有効性と効率を検証した。
  論文  参考訳（メタデータ） (2024-07-18T06:16:03Z)
• A Poisson-Gamma Dynamic Factor Model with Time-Varying Transition Dynamics [51.147876395589925]
  非定常PGDSは、基礎となる遷移行列が時間とともに進化できるように提案されている。 後続シミュレーションを行うために, 完全共役かつ効率的なギブスサンプリング装置を開発した。 実験により,提案した非定常PGDSは,関連するモデルと比較して予測性能が向上することを示した。
  論文  参考訳（メタデータ） (2024-02-26T04:39:01Z)
• Graph Spatiotemporal Process for Multivariate Time Series Anomaly Detection with Missing Values [67.76168547245237]
  本稿では,グラフ時間過程と異常スコアラを用いて異常を検出するGST-Proという新しいフレームワークを提案する。 実験結果から,GST-Pro法は時系列データ中の異常を効果的に検出し,最先端の手法より優れていることがわかった。
  論文  参考訳（メタデータ） (2024-01-11T10:10:16Z)
• TimelyGPT: Extrapolatable Transformer Pre-training for Long-term Time-Series Forecasting in Healthcare [14.14872125241069]
  我々は、時間生成事前学習変換器(TimelyGPT)を提示する。 TimelyGPTは、トレンドと周期パターンを時系列表現にエンコードするために、extrapolatable position (xPos) を組み込んでいる。 また、再帰的な注意と時間的畳み込みモジュールを統合して、グローバルな時間的依存関係を効果的にキャプチャする。
  論文  参考訳（メタデータ） (2023-11-29T19:09:28Z)
• T-Phenotype: Discovering Phenotypes of Predictive Temporal Patterns in Disease Progression [82.85825388788567]
  我々は、ラベル付き時系列データから予測時相パターンの表現型を発見するために、新しい時間的クラスタリング手法T-Phenotypeを開発した。 T-フェノタイプは, 評価ベースラインのすべてに対して, 最良の表現型発見性能を示す。
  論文  参考訳（メタデータ） (2023-02-24T13:30:35Z)
• Continuous-Time Modeling of Counterfactual Outcomes Using Neural Controlled Differential Equations [84.42837346400151]
  反現実的な結果を予測することは、パーソナライズされたヘルスケアをアンロックする可能性がある。 既存の因果推論アプローチでは、観察と治療決定の間の通常の離散時間間隔が考慮されている。 そこで本研究では,腫瘍増殖モデルに基づく制御可能なシミュレーション環境を提案する。
  論文  参考訳（メタデータ） (2022-06-16T17:15:15Z)
• TACTiS: Transformer-Attentional Copulas for Time Series [76.71406465526454]
  時間変化量の推定は、医療や金融などの分野における意思決定の基本的な構成要素である。 本稿では,アテンションベースデコーダを用いて関節分布を推定する多元的手法を提案する。 本研究では,本モデルが実世界の複数のデータセットに対して最先端の予測を生成することを示す。
  論文  参考訳（メタデータ） (2022-02-07T21:37:29Z)
• Self-supervised Transformer for Multivariate Clinical Time-Series with Missing Values [7.9405251142099464]
  本稿ではSTraTS(Self-supervised Transformer for TimeSeries)モデルを提案する。 伝統的な密度行列表現を使う代わりに、時系列を観測三重項の集合として扱う。 これは、特にラベル付きデータが制限された場合、死亡予測の最先端手法よりも優れた予測性能を示す。
  論文  参考訳（メタデータ） (2021-07-29T19:39:39Z)
• Model-Attentive Ensemble Learning for Sequence Modeling [86.4785354333566]
  シーケンスモデリング(MAES)のためのモデル・アテンティブ・アンサンブル・ラーニングを提案する。 MAESは、異なるシーケンスダイナミクスの専門家を専門とし、予測を適応的に重み付けるために、注目ベースのゲーティングメカニズムを利用する時系列の専門家の混合物です。 MAESが時系列シフトを受けるデータセットの人気シーケンスモデルを大幅に上回ることを示す。
  論文  参考訳（メタデータ） (2021-02-23T05:23:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。