論文の概要: DBT-DMAE: An Effective Multivariate Time Series Pre-Train Model under
Missing Data
- arxiv url: http://arxiv.org/abs/2209.07798v1
- Date: Fri, 16 Sep 2022 08:54:02 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-19 11:59:03.909892
- Title: DBT-DMAE: An Effective Multivariate Time Series Pre-Train Model under
Missing Data
- Title(参考訳): DBT-DMAE: 欠測データに基づく実効多変量時系列プレトレインモデル
- Authors: Kai Zhang and Qinmin Yang and Chao Li
- Abstract要約: MTSはデータ不足に悩まされ、下流のタスクが劣化または崩壊する。
本稿では,MTSプレトレインモデルについて述べる。
-DMAE、上記の障害を克服する。
- 参考スコア(独自算出の注目度): 16.589715330897906
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multivariate time series(MTS) is a universal data type related to many
practical applications. However, MTS suffers from missing data problems, which
leads to degradation or even collapse of the downstream tasks, such as
prediction and classification. The concurrent missing data handling procedures
could inevitably arouse the biased estimation and redundancy-training problem
when encountering multiple downstream tasks. This paper presents a universally
applicable MTS pre-train model, DBT-DMAE, to conquer the abovementioned
obstacle. First, a missing representation module is designed by introducing
dynamic positional embedding and random masking processing to characterize the
missing symptom. Second, we proposed an auto-encoder structure to obtain the
generalized MTS encoded representation utilizing an ameliorated TCN structure
called dynamic-bidirectional-TCN as the basic unit, which integrates the
dynamic kernel and time-fliping trick to draw temporal features effectively.
Finally, the overall feed-in and loss strategy is established to ensure the
adequate training of the whole model. Comparative experiment results manifest
that the DBT-DMAE outperforms the other state-of-the-art methods in six
real-world datasets and two different downstream tasks. Moreover, ablation and
interpretability experiments are delivered to verify the validity of DBT-DMAE's
substructures.
- Abstract(参考訳): 多変量時系列(MTS)は、多くの実用的な応用に関連する普遍的なデータ型である。
しかし、MSSはデータ不足に悩まされており、予測や分類といった下流タスクの劣化や崩壊につながる。
同時に欠落したデータ処理手順は、複数の下流タスクに遭遇する際のバイアス付き推定と冗長性のトレーニング問題を必然的に引き起こす可能性がある。
本稿では,MTSプレトレインモデルDBT-DMAEを提案する。
まず、欠落表現モジュールは、欠落した症状を特徴付けるために動的位置埋め込みとランダムマスキング処理を導入することにより設計される。
第2に,動的二方向性TCNと呼ばれる改良されたTCN構造を基本単位として,時間的特徴を効果的に描画するための動的カーネルとタイムフリップのトリックを統合することで,一般化されたMTS符号化表現を得る自動エンコーダ構造を提案する。
最後に、モデル全体の適切なトレーニングを確保するため、全体的なフィードイン・アンド・ロス戦略を確立する。
比較実験の結果,DBT-DMAEは6つの実世界のデータセットと2つの異なる下流タスクにおいて,他の最先端手法よりも優れていた。
さらに,DBT-DMAEのサブ構造の有効性を検証するためにアブレーションと解釈可能性の実験を行った。
関連論文リスト
- Cross-modal Prompts: Adapting Large Pre-trained Models for Audio-Visual
Downstream Tasks [55.36987468073152]
本稿では,DG-SCT(Dual-Guided Space-Channel-Temporal)アテンション機構を提案する。
DG-SCTモジュールはトレーニング可能なクロスモーダル・インタラクション・レイヤを事前トレーニングされたオーディオ・ビジュアル・エンコーダに組み込む。
提案手法は, AVE, AVVP, AVS, AVQA, AVQAを含む複数のダウンストリームタスクにまたがる最先端の処理結果を実現する。
論文 参考訳(メタデータ) (2023-11-09T05:24:20Z) - PREM: A Simple Yet Effective Approach for Node-Level Graph Anomaly
Detection [65.24854366973794]
ノードレベルのグラフ異常検出(GAD)は、医学、ソーシャルネットワーク、eコマースなどの分野におけるグラフ構造化データから異常ノードを特定する上で重要な役割を果たす。
本稿では,GADの効率を向上させるために,PREM (preprocessing and Matching) という簡単な手法を提案する。
我々のアプローチは、強力な異常検出機能を維持しながら、GADを合理化し、時間とメモリ消費を削減します。
論文 参考訳(メタデータ) (2023-10-18T02:59:57Z) - Cross-head mutual Mean-Teaching for semi-supervised medical image
segmentation [6.738522094694818]
SSMIS(Semi-supervised Medical Image segmentation)は、限られたラベル付きデータと豊富なラベルなしデータを活用することで、大幅な進歩を目撃している。
既存のSOTA(State-of-the-art)手法は、ラベルなしデータのラベルを正確に予測する際の課題に直面する。
強弱データ拡張を組み込んだ新しいクロスヘッド相互学習ネットワーク(CMMT-Net)を提案する。
論文 参考訳(メタデータ) (2023-10-08T09:13:04Z) - Distribution-Aware Continual Test Time Adaptation for Semantic
Segmentation [35.02574080164679]
実世界の応用において, セマンティックセグメンテーションCTTAを効率的かつ実用的なものにするための分散対応チューニング(DAT)手法を提案する。
DATは、連続的な適応プロセス中にデータ分布に基づいて、トレーニング可能なパラメータの2つの小さなグループを適応的に選択し、更新する。
我々は2つの広く使われているセマンティックセマンティックセマンティクスCTTAベンチマークで実験を行い、従来の最先端手法と比較して有望な性能を実現した。
論文 参考訳(メタデータ) (2023-09-24T10:48:20Z) - Efficient Multimodal Transformer with Dual-Level Feature Restoration for
Robust Multimodal Sentiment Analysis [47.29528724322795]
マルチモーダルセンシング分析(MSA)が近年注目を集めている。
著しい進歩にもかかわらず、堅牢なMSAへの道にはまだ2つの大きな課題がある。
デュアルレベル特徴回復 (EMT-DLFR) を用いた高効率マルチモーダル変圧器 (Efficient Multimodal Transformer) を提案する。
論文 参考訳(メタデータ) (2022-08-16T08:02:30Z) - Counterfactual Intervention Feature Transfer for Visible-Infrared Person
Re-identification [69.45543438974963]
視覚赤外人物再識別タスク(VI-ReID)におけるグラフベースの手法は,2つの問題により,悪い一般化に悩まされている。
十分に訓練された入力特徴は、グラフトポロジーの学習を弱め、推論過程において十分に一般化されない。
本稿では,これらの問題に対処するためのCIFT法を提案する。
論文 参考訳(メタデータ) (2022-08-01T16:15:31Z) - Truncated tensor Schatten p-norm based approach for spatiotemporal
traffic data imputation with complicated missing patterns [77.34726150561087]
本研究は, モード駆動繊維による3症例の欠失を含む, 4症例の欠失パターンについて紹介する。
本モデルでは, 目的関数の非性にもかかわらず, 乗算器の交互データ演算法を統合することにより, 最適解を導出する。
論文 参考訳(メタデータ) (2022-05-19T08:37:56Z) - Generalized Decision Transformer for Offline Hindsight Information
Matching [16.7594941269479]
本稿では、後視情報マッチング(HIM)問題を解くための一般化決定変換器(GDT)を提案する。
特徴関数と反因果アグリゲータの異なる選択が, 将来の異なる統計値に適合する新しいカテゴリーDT (CDT) と双方向DT (BDT) にどのように寄与するかを示す。
論文 参考訳(メタデータ) (2021-11-19T18:56:13Z) - Adaptive Anomaly Detection for Internet of Things in Hierarchical Edge
Computing: A Contextual-Bandit Approach [81.5261621619557]
階層エッジコンピューティング(HEC)を用いた適応型異常検出手法を提案する。
まず,複雑性を増した複数のDNNモデルを構築し,それぞれを対応するHEC層に関連付ける。
そこで我々は、文脈帯域問題として定式化され、強化学習ポリシーネットワークを用いて解決される適応モデル選択スキームを設計する。
論文 参考訳(メタデータ) (2021-08-09T08:45:47Z) - TimeAutoML: Autonomous Representation Learning for Multivariate
Irregularly Sampled Time Series [27.0506649441212]
本稿では,不規則なサンプリングレートと可変長を持つ多変量時系列(TimeAutoML)の自律表現学習手法を提案する。
実世界のデータセットに関する大規模な実証研究は、提案されたTimeAutoMLが、様々なタスクにおける競合するアプローチを大きなマージンで上回ることを示した。
論文 参考訳(メタデータ) (2020-10-04T15:01:46Z) - A Transductive Multi-Head Model for Cross-Domain Few-Shot Learning [72.30054522048553]
本稿では,クロスドメインなFew-Shot学習問題に対処するため,TMHFS(Transductive Multi-Head Few-Shot Learning)を提案する。
提案手法は, 4つの異なる対象領域において, 強いベースライン, 微調整を著しく上回っている。
論文 参考訳(メタデータ) (2020-06-08T02:39:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。