論文の概要: Put Attention to Temporal Saliency Patterns of Multi-Horizon Time Series
- arxiv url: http://arxiv.org/abs/2212.07771v1
- Date: Thu, 15 Dec 2022 12:47:59 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-16 17:26:30.052099
- Title: Put Attention to Temporal Saliency Patterns of Multi-Horizon Time Series
- Title（参考訳）: 多次元時間系列の時間周期パターンに留意すること
- Authors: Nghia Duong-Trung, Stefan Born, Kiran Madhusudhanan, Randolf Scholz,
Johannes Burchert, Danh Le-Phuoc, Lars Schmidt-Thieme
- Abstract要約: 注意機構の上に,新しいアーキテクチャであるTSD(Temporal Saliency Detection)を提案し,それをマルチ水平時系列予測に適用する。
従来のエンコーダ・デコーダアーキテクチャを改良し,マルチヘッドの自己注意と連動して動作する一連の深層畳み込みブロックを設計する。
提案手法は,複数の標準ベンチマークデータセットにまたがって既存の最先端手法を著しく上回っている。
- 参考スコア（独自算出の注目度）: 5.533546366603708
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Time series, sets of sequences in chronological order, are essential data in
statistical research with many forecasting applications. Although recent
performance in many Transformer-based models has been noticeable, long
multi-horizon time series forecasting remains a very challenging task. Going
beyond transformers in sequence translation and transduction research, we
observe the effects of down-and-up samplings that can nudge temporal saliency
patterns to emerge in time sequences. Motivated by the mentioned observation,
in this paper, we propose a novel architecture, Temporal Saliency Detection
(TSD), on top of the attention mechanism and apply it to multi-horizon time
series prediction. We renovate the traditional encoder-decoder architecture by
making as a series of deep convolutional blocks to work in tandem with the
multi-head self-attention. The proposed TSD approach facilitates the
multiresolution of saliency patterns upon condensed multi-heads, thus
progressively enhancing complex time series forecasting. Experimental results
illustrate that our proposed approach has significantly outperformed existing
state-of-the-art methods across multiple standard benchmark datasets in many
far-horizon forecasting settings. Overall, TSD achieves 31% and 46% relative
improvement over the current state-of-the-art models in multivariate and
univariate time series forecasting scenarios on standard benchmarks. The Git
repository is available at
https://github.com/duongtrung/time-series-temporal-saliency-patterns.
- Abstract（参考訳）: 時系列(時系列)は、多くの予測応用を伴う統計研究において不可欠なデータである。
近年の変圧器モデルの性能は注目されているが、長いマルチホリゾン時系列予測は非常に難しい課題である。
シーケンス変換とトランスダクションの研究においてトランスフォーマティブを超えて、時系列シーケンスに現れる時間的塩分パターンを生み出すダウン・アンド・アップサンプリングの効果を観察した。
そこで本稿では,注意機構の上に構築された新しいアーキテクチャであるtsd(temporal saliency detection)を提案し,マルチホリゾン時系列予測に適用する。
従来のエンコーダ・デコーダアーキテクチャを改良し,マルチヘッドの自己意図と連動して動作する一連の深層畳み込みブロックを設計する。
提案するtsdアプローチは, 凝縮された多頭部の塩分パターンのマルチレゾリューションを促進し, 複雑な時系列予測を段階的に促進する。
実験の結果,提案手法は,複数の標準ベンチマークデータセットにおいて,多くの極水平予測設定において,既存の最先端手法よりも大幅に優れていた。
全体として、TSDは、標準ベンチマーク上の多変量および単変量時系列予測シナリオにおける現在の最先端モデルの31%と46%の相対的な改善を実現している。
gitリポジトリはhttps://github.com/duongtrung/time-series-temporal-saliency-patternsで入手できる。
関連論文リスト
- EDformer: Embedded Decomposition Transformer for Interpretable Multivariate Time Series Predictions [4.075971633195745]
本稿では,時系列予測タスクのための組込みトランス「EDformer」を提案する。
基本要素を変更することなく、Transformerアーキテクチャを再利用し、その構成部品の有能な機能について検討する。
このモデルは、複雑な実世界の時系列データセットの精度と効率の観点から、最先端の予測結果を得る。
論文 参考訳（メタデータ） (2024-12-16T11:13:57Z) - DisenTS: Disentangled Channel Evolving Pattern Modeling for Multivariate Time Series Forecasting [43.071713191702486]
DisenTSは、一般的な時系列予測において、不整合チャネル進化パターンをモデル化するための調整されたフレームワークである。
本稿では,予測器の状態と入力系列の特性の両方に応じて適応的にルーティング信号を生成する,新しいフォアキャスタ・アウェアゲート(FAG)モジュールを提案する。
論文 参考訳（メタデータ） (2024-10-30T12:46:14Z) - TSI: A Multi-View Representation Learning Approach for Time Series Forecasting [29.05140751690699]
本研究では,時系列予測のための新しいマルチビュー手法を提案する。
傾向と季節表現を独立成分分析(ICA)に基づく表現と統合する。
このアプローチは時系列データの全体的理解を提供し、しばしば曖昧で非線形な関係を見逃す伝統的なモデルを越えている。
論文 参考訳（メタデータ） (2024-09-30T02:11:57Z) - SFANet: Spatial-Frequency Attention Network for Weather Forecasting [54.470205739015434]
天気予報は様々な分野において重要な役割を担い、意思決定とリスク管理を推進している。
伝統的な手法は、しばしば気象系の複雑な力学を捉えるのに苦労する。
本稿では,これらの課題に対処し,天気予報の精度を高めるための新しい枠組みを提案する。
論文 参考訳（メタデータ） (2024-05-29T08:00:15Z) - Unified Training of Universal Time Series Forecasting Transformers [104.56318980466742]
マスク型ユニバーサル時系列予測変換器(モイライ)について述べる。
Moiraiは、新たに導入された大規模オープンタイムシリーズアーカイブ(LOTSA)で訓練されており、9つのドメインで27億以上の観測が行われた。
Moiraiは、フルショットモデルと比較してゼロショットの予測器として、競争力や優れたパフォーマンスを達成する。
論文 参考訳（メタデータ） (2024-02-04T20:00:45Z) - The Capacity and Robustness Trade-off: Revisiting the Channel
Independent Strategy for Multivariate Time Series Forecasting [50.48888534815361]
本稿では、Channel Dependent(CD)戦略でトレーニングされたモデルが、Channel Dependent(CD)戦略でトレーニングされたモデルよりも優れていることを示す。
以上の結果から,CD手法は高いキャパシティを持つが,分散ドリフト時系列を正確に予測する堅牢性に欠けることがわかった。
本稿では,CI戦略を超越した正規化(PRReg)による予測残差法(Predict Residuals with Regularization, PRReg)を提案する。
論文 参考訳（メタデータ） (2023-04-11T13:15:33Z) - FormerTime: Hierarchical Multi-Scale Representations for Multivariate
Time Series Classification [53.55504611255664]
formerTimeは、多変量時系列分類タスクの分類能力を改善する階層的表現モデルである。
1)時系列データから階層的なマルチスケール表現を学習し、(2)トランスフォーマーと畳み込みネットワークの強さを継承し、(3)自己維持メカニズムによって引き起こされる効率の課題に取り組む。
論文 参考訳（メタデータ） (2023-02-20T07:46:14Z) - Generating Sparse Counterfactual Explanations For Multivariate Time
Series [0.5161531917413706]
多変量時系列に対するSPARse Counterfactual Explanationsを生成するGANアーキテクチャを提案する。
提案手法は, トラジェクトリの類似性, 疎性, 滑らか性の観点から, 対実損失関数を正規化する。
我々は,実世界の人間の動作データセットと合成時系列解釈可能性ベンチマークに対するアプローチを評価した。
論文 参考訳（メタデータ） (2022-06-02T08:47:06Z) - Monitoring Time Series With Missing Values: a Deep Probabilistic
Approach [1.90365714903665]
本研究では,高次元時系列における予測の最先端手法と不確実性の完全な確率的ハンドリングを組み合わせた時系列モニタリングのための新しいアーキテクチャを提案する。
本稿では、時系列予測と新規性検出のアーキテクチャの利点を、特に部分的に欠落したデータで示し、実世界のデータセットにおける最先端のアプローチとアーキテクチャを実証的に評価し比較する。
論文 参考訳（メタデータ） (2022-03-09T17:53:47Z) - Multivariate Time Series Forecasting with Dynamic Graph Neural ODEs [65.18780403244178]
動的グラフニューラル正規微分方程式(MTGODE)を用いた多変量時系列予測連続モデルを提案する。
具体的には、まず、時間進化するノードの特徴と未知のグラフ構造を持つ動的グラフに多変量時系列を抽象化する。
そして、欠落したグラフトポロジを補完し、空間的および時間的メッセージパッシングを統一するために、ニューラルODEを設計、解決する。
論文 参考訳（メタデータ） (2022-02-17T02:17:31Z) - Deep Autoregressive Models with Spectral Attention [74.08846528440024]
本稿では,深部自己回帰モデルとスペクトル注意(SA)モジュールを組み合わせた予測アーキテクチャを提案する。
時系列の埋め込みをランダムなプロセスの発生としてスペクトル領域に特徴付けることにより,グローバルな傾向と季節パターンを同定することができる。
時系列に対するグローバルとローカルの2つのスペクトルアテンションモデルは、この情報を予測の中に統合し、スペクトルフィルタリングを行い、時系列のノイズを除去する。
論文 参考訳（メタデータ） (2021-07-13T11:08:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。