論文の概要: Dynamic Local Attention with Hierarchical Patching for Irregular
Clinical Time Series
- arxiv url: http://arxiv.org/abs/2311.07744v1
- Date: Mon, 13 Nov 2023 20:54:52 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-15 16:18:33.447823
- Title: Dynamic Local Attention with Hierarchical Patching for Irregular
Clinical Time Series
- Title(参考訳): 不規則な臨床時系列に対する階層的パッチ適用による動的局所的注意
- Authors: Xingyu Chen and Xiaochen Zheng and Amina Mollaysa and Manuel Sch\"urch
and Ahmed Allam and Michael Krauthammer
- Abstract要約: 本稿では,DLA,動的局所注意機構,およびDLAの出力を処理する階層ミキサーの2つのモジュールからなる新しいモデルアーキテクチャを提案する。
提案手法は,最新のMIMIC IVデータセットを含む3つの実世界のデータセットに対して,最先端の手法より優れている。
- 参考スコア(独自算出の注目度): 15.770469280882548
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Irregular multivariate time series data is prevalent in the clinical and
healthcare domains. It is characterized by time-wise and feature-wise
irregularities, making it challenging for machine learning methods to work
with. To solve this, we introduce a new model architecture composed of two
modules: (1) DLA, a Dynamic Local Attention mechanism that uses learnable
queries and feature-specific local windows when computing the self-attention
operation. This results in aggregating irregular time steps raw input within
each window to a harmonized regular latent space representation while taking
into account the different features' sampling rates. (2) A hierarchical MLP
mixer that processes the output of DLA through multi-scale patching to leverage
information at various scales for the downstream tasks. Our approach
outperforms state-of-the-art methods on three real-world datasets, including
the latest clinical MIMIC IV dataset.
- Abstract(参考訳): 不規則な多変量時系列データは、臨床および医療領域で広く使われている。
時間的にも機能的にも不規則な点が特徴で、機械学習手法の扱いが難しい。
そこで本研究では,(1)学習可能なクエリと特徴固有のローカルウィンドウを用いた動的ローカルアテンション機構であるDLAと,自己アテンション操作の計算を行うための2つのモジュールからなる新しいモデルアーキテクチャを提案する。
これにより、各ウィンドウ内の不規則な時間ステップの生入力を、異なる特徴のサンプリング率を考慮して調和した正規潜在空間表現に集約する。
2) DLAの出力をマルチスケールパッチで処理し, 下流タスクの様々なスケールの情報を活用する階層型MLPミキサー。
本手法は,最新の臨床模倣ivデータセットを含む3つの実世界のデータセットにおける最先端手法よりも優れている。
関連論文リスト
- Graph Spatiotemporal Process for Multivariate Time Series Anomaly
Detection with Missing Values [67.76168547245237]
本稿では,グラフ時間過程と異常スコアラを用いて異常を検出するGST-Proという新しいフレームワークを提案する。
実験結果から,GST-Pro法は時系列データ中の異常を効果的に検出し,最先端の手法より優れていることがわかった。
論文 参考訳(メタデータ) (2024-01-11T10:10:16Z) - Compatible Transformer for Irregularly Sampled Multivariate Time Series [75.79309862085303]
本研究では,各サンプルに対して総合的な時間的相互作用特徴学習を実現するためのトランスフォーマーベースのエンコーダを提案する。
実世界の3つのデータセットについて広範な実験を行い、提案したCoFormerが既存の手法を大幅に上回っていることを検証した。
論文 参考訳(メタデータ) (2023-10-17T06:29:09Z) - Multi-Task Dynamical Systems [5.881614676989161]
時系列データセットは、しばしば同じドメインから、異なるエンティティから、様々なシーケンスから構成される。
本稿では,マルチタスク学習(MTL)を時系列モデルに拡張する一般的な手法であるMTDSについて述べる。
MTDSをマルチタスクリカレントニューラルネットワーク(RNN)を用いて歩く人々のモーションキャプチャーデータに適用し,マルチタスク薬理力学モデルを用いた患者薬物応答データに適用した。
論文 参考訳(メタデータ) (2022-10-08T13:37:55Z) - TimesNet: Temporal 2D-Variation Modeling for General Time Series
Analysis [80.56913334060404]
時系列解析は、天気予報、異常検出、行動認識などの応用において非常に重要である。
従来の手法では、1D時系列から直接これを達成しようと試みていた。
複雑な経時的変化を、複数の経時的変化と経時的変化に明らかにする。
論文 参考訳(メタデータ) (2022-10-05T12:19:51Z) - Expressing Multivariate Time Series as Graphs with Time Series Attention
Transformer [14.172091921813065]
多変量時系列表現学習のための時系列注意変換器(TSAT)を提案する。
TSATを用いて、エッジ強化された動的グラフの観点から、時系列の時間情報と相互依存の両方を表現している。
TSATは、様々な予測地平線において、最先端の6つのベースライン法より明らかに優れていることを示す。
論文 参考訳(メタデータ) (2022-08-19T12:25:56Z) - Multi-scale Attention Flow for Probabilistic Time Series Forecasting [68.20798558048678]
マルチスケールアテンション正規化フロー(MANF)と呼ばれる非自己回帰型ディープラーニングモデルを提案する。
我々のモデルは累積誤差の影響を回避し、時間の複雑さを増大させない。
本モデルは,多くの多変量データセット上での最先端性能を実現する。
論文 参考訳(メタデータ) (2022-05-16T07:53:42Z) - Voice2Series: Reprogramming Acoustic Models for Time Series
Classification [65.94154001167608]
Voice2Seriesは、時系列分類のための音響モデルをプログラムする新しいエンドツーエンドアプローチである。
V2Sは20のタスクで性能が優れるか、最先端のメソッドと結びついているかを示し、平均精度を1.84%向上させる。
論文 参考訳(メタデータ) (2021-06-17T07:59:15Z) - Learnable Dynamic Temporal Pooling for Time Series Classification [22.931314501371805]
本稿では,セグメントレベルの特徴を集約することにより,隠れ表現の時間的サイズを低減する動的時間的プーリング(DTP)手法を提案する。
時系列全体の分割を複数のセグメントに分割するために,動的時間ゆがみ(dtw)を用いて各時間点を時間順に整列し,セグメントの原型的特徴を示す。
完全連結層と組み合わせたDTP層は、入力時系列内の時間的位置を考慮したさらなる識別的特徴を抽出するのに役立つ。
論文 参考訳(メタデータ) (2021-04-02T08:58:44Z) - Supervised Feature Subset Selection and Feature Ranking for Multivariate
Time Series without Feature Extraction [78.84356269545157]
MTS分類のための教師付き特徴ランキングと特徴サブセット選択アルゴリズムを導入する。
MTSの既存の教師なし特徴選択アルゴリズムとは異なり、我々の手法は時系列から一次元特徴ベクトルを生成するために特徴抽出ステップを必要としない。
論文 参考訳(メタデータ) (2020-05-01T07:46:29Z) - Time Series Alignment with Global Invariances [14.632733235929926]
本稿では,時間的アライメントとともに特徴空間の潜在的大域的変換を学習することにより,特徴空間と時間的変動の両方を考慮した新しい距離を提案する。
この新たな幾何学の下で,時系列バリセンタの計算アルゴリズムを2つ提案する。
シミュレーションデータと実世界のデータの両方に対するアプローチの関心を概説し、最先端の手法と比較して、我々のアプローチの堅牢性を示す。
論文 参考訳(メタデータ) (2020-02-10T15:11:50Z) - A Deep Structural Model for Analyzing Correlated Multivariate Time
Series [11.009809732645888]
相関した多変量時系列入力を処理できる深層学習構造時系列モデルを提案する。
モデルは、トレンド、季節性、イベントコンポーネントを明示的に学習し、抽出する。
我々は,様々な時系列データセットに関する総合的な実験を通して,そのモデルと最先端のいくつかの手法を比較した。
論文 参考訳(メタデータ) (2020-01-02T18:48:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。