Fugu-MT 論文翻訳(概要): Scalable Numerical Embeddings for Multivariate Time Series: Enhancing Healthcare Data Representation Learning

論文の概要: Scalable Numerical Embeddings for Multivariate Time Series: Enhancing Healthcare Data Representation Learning

arxiv url: http://arxiv.org/abs/2405.16557v1
Date: Sun, 26 May 2024 13:06:45 GMT
ステータス: 処理完了
システム内更新日: 2024-05-28 20:29:27.983413
Title: Scalable Numerical Embeddings for Multivariate Time Series: Enhancing Healthcare Data Representation Learning
Title（参考訳）: 多変量時系列のためのスケーラブルな数値埋め込み:医療データ表現学習の強化
Authors: Chun-Kai Huang, Yi-Hsien Hsieh, Ta-Jung Chien, Li-Cheng Chien, Shao-Hua Sun, Tung-Hung Su, Jia-Horng Kao, Che Lin,
Abstract要約: 独立トークンとして各特徴値を扱う新しいフレームワークであるSCANEを提案する。 SCANEは、異なる機能埋め込みの特性を正規化し、スケーラブルな埋め込みメカニズムを通じて表現学習を強化する。本研究は,MTSの精度の高い予測出力を実現するために,nUMerical eMbeddIng Transformer (SUMMIT) を開発した。
参考スコア（独自算出の注目度）: 6.635084843592727
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Multivariate time series (MTS) data, when sampled irregularly and asynchronously, often present extensive missing values. Conventional methodologies for MTS analysis tend to rely on temporal embeddings based on timestamps that necessitate subsequent imputations, yet these imputed values frequently deviate substantially from their actual counterparts, thereby compromising prediction accuracy. Furthermore, these methods typically fail to provide robust initial embeddings for values infrequently observed or even absent within the training set, posing significant challenges to model generalizability. In response to these challenges, we propose SCAlable Numerical Embedding (SCANE), a novel framework that treats each feature value as an independent token, effectively bypassing the need for imputation. SCANE regularizes the traits of distinct feature embeddings and enhances representational learning through a scalable embedding mechanism. Coupling SCANE with the Transformer Encoder architecture, we develop the Scalable nUMerical eMbeddIng Transformer (SUMMIT), which is engineered to deliver precise predictive outputs for MTS characterized by prevalent missing entries. Our experimental validation, conducted across three disparate electronic health record (EHR) datasets marked by elevated missing value frequencies, confirms the superior performance of SUMMIT over contemporary state-of-the-art approaches addressing similar challenges. These results substantiate the efficacy of SCANE and SUMMIT, underscoring their potential applicability across a broad spectrum of MTS data analytical tasks.
Abstract（参考訳）: 多変量時系列(MTS)データは、不規則かつ非同期にサンプリングされると、しばしば大きな欠落値を示す。 MTS解析の従来の手法は、後続の計算を必要とするタイムスタンプに基づく時間的埋め込みに依存する傾向にあるが、これらのインプットされた値は実際の手法と大きく異なるため、予測精度が向上する。さらに、これらの手法は、通常、トレーニングセット内でしばしば観測されるか、あるいは欠落している値に対して、堅牢な初期埋め込みを提供することができず、一般化可能性のモデル化に重大な課題を生じさせる。これらの課題に対応するために、各特徴値を独立トークンとして扱う新しいフレームワークであるSCANE(SCAlable Numerical Embedding)を提案する。 SCANEは、異なる機能埋め込みの特性を正規化し、スケーラブルな埋め込みメカニズムを通じて表現学習を強化する。 SCANE と Transformer Encoder アーキテクチャを結合した Scalable nUMerical eMbeddIng Transformer (SUMMIT) を開発した。異なる3つの電子健康記録(EHR)データセットを用いて実験を行った結果,SUMMITの性能は,同種の課題に対処する現代的最先端アプローチよりも優れていたことが確認された。これらの結果はSCANEとSUMMITの有効性を裏付けるものであり、MSSデータ解析タスクの幅広い範囲で適用可能であることを裏付けるものである。

関連論文リスト

MTSCI: A Conditional Diffusion Model for Multivariate Time Series Consistent Imputation [41.681869408967586]
主要な研究課題は、どのようにインパルスの整合性を確保するか、すなわち観測値とインパルス値の整合性を確保するかである。従来の手法は、学習プロセスを導くために、計算対象の帰納的バイアスにのみ依存する。
論文参考訳（メタデータ） (2024-08-11T10:24:53Z)
A Poisson-Gamma Dynamic Factor Model with Time-Varying Transition Dynamics [51.147876395589925]
非定常PGDSは、基礎となる遷移行列が時間とともに進化できるように提案されている。後続シミュレーションを行うために, 完全共役かつ効率的なギブスサンプリング装置を開発した。実験により,提案した非定常PGDSは,関連するモデルと比較して予測性能が向上することを示した。
論文参考訳（メタデータ） (2024-02-26T04:39:01Z)
Graph Spatiotemporal Process for Multivariate Time Series Anomaly Detection with Missing Values [67.76168547245237]
本稿では,グラフ時間過程と異常スコアラを用いて異常を検出するGST-Proという新しいフレームワークを提案する。実験結果から,GST-Pro法は時系列データ中の異常を効果的に検出し,最先端の手法より優れていることがわかった。
論文参考訳（メタデータ） (2024-01-11T10:10:16Z)
AnomalyBERT: Self-Supervised Transformer for Time Series Anomaly Detection using Data Degradation Scheme [0.7216399430290167]
時系列、特にラベルなしデータに対する異常検出タスクは、難しい問題である。自己教師型モデルトレーニングに適切なデータ劣化スキームを適用することで、この問題に対処する。自己認識機構に触発されて、時間的文脈を認識するトランスフォーマーベースのアーキテクチャを設計する。
論文参考訳（メタデータ） (2023-05-08T05:42:24Z)
Towards Long-Term Time-Series Forecasting: Feature, Pattern, and Distribution [57.71199089609161]
長期的時系列予測(LTTF)は、風力発電計画など、多くのアプリケーションで需要が高まっている。トランスフォーマーモデルは、高い計算自己認識機構のため、高い予測能力を提供するために採用されている。 LTTFの既存の手法を3つの面で区別する,Conformer という,効率的なTransformer ベースモデルを提案する。
論文参考訳（メタデータ） (2023-01-05T13:59:29Z)
DBT-DMAE: An Effective Multivariate Time Series Pre-Train Model under Missing Data [16.589715330897906]
MTSはデータ不足に悩まされ、下流のタスクが劣化または崩壊する。本稿では,MTSプレトレインモデルについて述べる。 -DMAE、上記の障害を克服する。
論文参考訳（メタデータ） (2022-09-16T08:54:02Z)
Contrastive predictive coding for Anomaly Detection in Multi-variate Time Series Data [6.463941665276371]
本稿では,MVTSデータにおける異常検出に向けて,TRL-CPC(Contrastive Predictive Coding)を用いた時系列表現学習を提案する。まず,エンコーダ,自動回帰器,非線形変換関数を共同で最適化し,MVTSデータセットの表現を効果的に学習する。
論文参考訳（メタデータ） (2022-02-08T04:25:29Z)
TACTiS: Transformer-Attentional Copulas for Time Series [76.71406465526454]
時間変化量の推定は、医療や金融などの分野における意思決定の基本的な構成要素である。本稿では,アテンションベースデコーダを用いて関節分布を推定する多元的手法を提案する。本研究では,本モデルが実世界の複数のデータセットに対して最先端の予測を生成することを示す。
論文参考訳（メタデータ） (2022-02-07T21:37:29Z)
LIFE: Learning Individual Features for Multivariate Time Series Prediction with Missing Values [71.52335136040664]
本稿では,MTS予測のための新しいパラダイムを提供する学習個人特徴(LIFE)フレームワークを提案する。 LIFEは、相関次元を補助情報として使用し、非相関次元からの干渉を欠落値で抑制することにより、予測のための信頼性の高い特徴を生成する。 3つの実世界のデータセットの実験は、既存の最先端モデルに対するLIFEの優位性を検証する。
論文参考訳（メタデータ） (2021-09-30T04:53:24Z)
Self-supervised Transformer for Multivariate Clinical Time-Series with Missing Values [7.9405251142099464]
本稿ではSTraTS(Self-supervised Transformer for TimeSeries)モデルを提案する。伝統的な密度行列表現を使う代わりに、時系列を観測三重項の集合として扱う。これは、特にラベル付きデータが制限された場合、死亡予測の最先端手法よりも優れた予測性能を示す。
論文参考訳（メタデータ） (2021-07-29T19:39:39Z)
Transformer Hawkes Process [79.16290557505211]
本稿では,長期的依存関係を捕捉する自己認識機構を利用したTransformer Hawkes Process (THP) モデルを提案する。 THPは、有意なマージンによる可能性と事象予測の精度の両方の観点から、既存のモデルより優れている。本稿では、THPが関係情報を組み込む際に、複数の点過程を学習する際の予測性能の改善を実現する具体例を示す。
論文参考訳（メタデータ） (2020-02-21T13:48:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。