論文の概要: Dynamic Local Attention with Hierarchical Patching for Irregular Clinical Time Series

• arxiv url: http://arxiv.org/abs/2311.07744v1
• Date: Mon, 13 Nov 2023 20:54:52 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-15 16:18:33.447823
• Title: Dynamic Local Attention with Hierarchical Patching for Irregular Clinical Time Series
• Title（参考訳）: 不規則な臨床時系列に対する階層的パッチ適用による動的局所的注意
• Authors: Xingyu Chen and Xiaochen Zheng and Amina Mollaysa and Manuel Sch\"urch and Ahmed Allam and Michael Krauthammer
• Abstract要約: 本稿では,DLA,動的局所注意機構,およびDLAの出力を処理する階層ミキサーの2つのモジュールからなる新しいモデルアーキテクチャを提案する。 提案手法は,最新のMIMIC IVデータセットを含む3つの実世界のデータセットに対して,最先端の手法より優れている。
• 参考スコア（独自算出の注目度）: 15.770469280882548
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Irregular multivariate time series data is prevalent in the clinical and healthcare domains. It is characterized by time-wise and feature-wise irregularities, making it challenging for machine learning methods to work with. To solve this, we introduce a new model architecture composed of two modules: (1) DLA, a Dynamic Local Attention mechanism that uses learnable queries and feature-specific local windows when computing the self-attention operation. This results in aggregating irregular time steps raw input within each window to a harmonized regular latent space representation while taking into account the different features' sampling rates. (2) A hierarchical MLP mixer that processes the output of DLA through multi-scale patching to leverage information at various scales for the downstream tasks. Our approach outperforms state-of-the-art methods on three real-world datasets, including the latest clinical MIMIC IV dataset.
• Abstract（参考訳）: 不規則な多変量時系列データは、臨床および医療領域で広く使われている。 時間的にも機能的にも不規則な点が特徴で、機械学習手法の扱いが難しい。 そこで本研究では,(1)学習可能なクエリと特徴固有のローカルウィンドウを用いた動的ローカルアテンション機構であるDLAと,自己アテンション操作の計算を行うための2つのモジュールからなる新しいモデルアーキテクチャを提案する。 これにより、各ウィンドウ内の不規則な時間ステップの生入力を、異なる特徴のサンプリング率を考慮して調和した正規潜在空間表現に集約する。 2) DLAの出力をマルチスケールパッチで処理し, 下流タスクの様々なスケールの情報を活用する階層型MLPミキサー。 本手法は,最新の臨床模倣ivデータセットを含む3つの実世界のデータセットにおける最先端手法よりも優れている。

関連論文リスト

• Hierarchical Multimodal LLMs with Semantic Space Alignment for Enhanced Time Series Classification [4.5939667818289385]
  HiTimeは階層的なマルチモーダルモデルであり、時間的情報を大きな言語モデルにシームレスに統合する。 本研究は, 時間的特徴をLCMに組み込むことにより, 時系列解析の進歩に寄与する可能性が示唆された。
  論文  参考訳（メタデータ） (2024-10-24T12:32:19Z)
• TimeMixer++: A General Time Series Pattern Machine for Universal Predictive Analysis [17.09401448377127]
  時系列解析は多くのアプリケーションにおいて重要な役割を担い、予測、分類、異常検出、計算などのタスクをサポートする。 本研究では,高機能な表現とパターン抽出機能を通じて,幅広い時系列タスクを最適化するモデルである時系列パターンマシン(TSPM)を提案する。
  論文  参考訳（メタデータ） (2024-10-21T14:06:53Z)
• Leveraging 2D Information for Long-term Time Series Forecasting with Vanilla Transformers [55.475142494272724]
  時系列予測は、様々な領域における複雑な力学の理解と予測に不可欠である。 GridTSTは、革新的な多方向性の注意を用いた2つのアプローチの利点を組み合わせたモデルである。 このモデルは、さまざまな現実世界のデータセットに対して、常に最先端のパフォーマンスを提供する。
  論文  参考訳（メタデータ） (2024-05-22T16:41:21Z)
• Motion Code: Robust Time Series Classification and Forecasting via Sparse Variational Multi-Stochastic Processes Learning [3.2857981869020327]
  本稿では,各時系列を連続的なプロセスの実現とみなす新しいフレームワークを提案する。 この数学的アプローチは、タイムスタンプ間の依存関係をキャプチャし、ノイズ内の隠れた時間変化信号を検出する。 現実のパーキンソン病センサートラッキングを含むノイズの多いデータセットの実験は、確立されたベンチマークに対するモーションコードの強力なパフォーマンスを実証している。
  論文  参考訳（メタデータ） (2024-02-21T19:10:08Z)
• Graph Spatiotemporal Process for Multivariate Time Series Anomaly Detection with Missing Values [67.76168547245237]
  本稿では,グラフ時間過程と異常スコアラを用いて異常を検出するGST-Proという新しいフレームワークを提案する。 実験結果から,GST-Pro法は時系列データ中の異常を効果的に検出し,最先端の手法より優れていることがわかった。
  論文  参考訳（メタデータ） (2024-01-11T10:10:16Z)
• Compatible Transformer for Irregularly Sampled Multivariate Time Series [75.79309862085303]
  本研究では,各サンプルに対して総合的な時間的相互作用特徴学習を実現するためのトランスフォーマーベースのエンコーダを提案する。 実世界の3つのデータセットについて広範な実験を行い、提案したCoFormerが既存の手法を大幅に上回っていることを検証した。
  論文  参考訳（メタデータ） (2023-10-17T06:29:09Z)
• Multi-Task Dynamical Systems [5.881614676989161]
  時系列データセットは、しばしば同じドメインから、異なるエンティティから、様々なシーケンスから構成される。 本稿では,マルチタスク学習(MTL)を時系列モデルに拡張する一般的な手法であるMTDSについて述べる。 MTDSをマルチタスクリカレントニューラルネットワーク(RNN)を用いて歩く人々のモーションキャプチャーデータに適用し,マルチタスク薬理力学モデルを用いた患者薬物応答データに適用した。
  論文  参考訳（メタデータ） (2022-10-08T13:37:55Z)
• TimesNet: Temporal 2D-Variation Modeling for General Time Series Analysis [80.56913334060404]
  時系列解析は、天気予報、異常検出、行動認識などの応用において非常に重要である。 従来の手法では、1D時系列から直接これを達成しようと試みていた。 複雑な経時的変化を、複数の経時的変化と経時的変化に明らかにする。
  論文  参考訳（メタデータ） (2022-10-05T12:19:51Z)
• Multi-scale Attention Flow for Probabilistic Time Series Forecasting [68.20798558048678]
  マルチスケールアテンション正規化フロー(MANF)と呼ばれる非自己回帰型ディープラーニングモデルを提案する。 我々のモデルは累積誤差の影響を回避し、時間の複雑さを増大させない。 本モデルは,多くの多変量データセット上での最先端性能を実現する。
  論文  参考訳（メタデータ） (2022-05-16T07:53:42Z)
• Supervised Feature Subset Selection and Feature Ranking for Multivariate Time Series without Feature Extraction [78.84356269545157]
  MTS分類のための教師付き特徴ランキングと特徴サブセット選択アルゴリズムを導入する。 MTSの既存の教師なし特徴選択アルゴリズムとは異なり、我々の手法は時系列から一次元特徴ベクトルを生成するために特徴抽出ステップを必要としない。
  論文  参考訳（メタデータ） (2020-05-01T07:46:29Z)
• Time Series Alignment with Global Invariances [14.632733235929926]
  本稿では,時間的アライメントとともに特徴空間の潜在的大域的変換を学習することにより,特徴空間と時間的変動の両方を考慮した新しい距離を提案する。 この新たな幾何学の下で,時系列バリセンタの計算アルゴリズムを2つ提案する。 シミュレーションデータと実世界のデータの両方に対するアプローチの関心を概説し、最先端の手法と比較して、我々のアプローチの堅牢性を示す。
  論文  参考訳（メタデータ） (2020-02-10T15:11:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。