論文の概要: Less is more: Embracing sparsity and interpolation with Esiformer for time series forecasting

• arxiv url: http://arxiv.org/abs/2410.05726v1
• Date: Tue, 8 Oct 2024 06:45:47 GMT
• ステータス: 処理完了
• システム内更新日: 2024-11-01 13:19:50.154630
• Title: Less is more: Embracing sparsity and interpolation with Esiformer for time series forecasting
• Title（参考訳）: 以下:時系列予測のための間隔とEsiformerとの補間を受け入れる
• Authors: Yangyang Guo, Yanjun Zhao, Sizhe Dang, Tian Zhou, Liang Sun, Yi Qian,
• Abstract要約: 実世界のアプリケーションから生成された時系列データは、常に高いばらつきと多くのノイズを示す。 本稿では,元のデータに適用し,データ全体のばらつきを低減し,ノイズの影響を軽減するEsiformerを提案する。 MSEを6.5%,MAEを5.8%削減した。
• 参考スコア（独自算出の注目度）: 19.8447763392479
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Time series forecasting has played a significant role in many practical fields. But time series data generated from real-world applications always exhibits high variance and lots of noise, which makes it difficult to capture the inherent periodic patterns of the data, hurting the prediction accuracy significantly. To address this issue, we propose the Esiformer, which apply interpolation on the original data, decreasing the overall variance of the data and alleviating the influence of noise. What's more, we enhanced the vanilla transformer with a robust Sparse FFN. It can enhance the representation ability of the model effectively, and maintain the excellent robustness, avoiding the risk of overfitting compared with the vanilla implementation. Through evaluations on challenging real-world datasets, our method outperforms leading model PatchTST, reducing MSE by 6.5% and MAE by 5.8% in multivariate time series forecasting. Code is available at: https://github.com/yyg1282142265/Esiformer/tree/main.
• Abstract（参考訳）: 時系列予測は多くの実践的な分野で重要な役割を果たしてきた。 しかし、実世界のアプリケーションから生成された時系列データは、常に高いばらつきと多くのノイズを示すため、データ固有の周期パターンを捉えることは困難であり、予測精度を著しく損なう。 この問題に対処するために、元のデータに補間を適用し、データの全体的な分散を減らし、ノイズの影響を軽減するEsiformerを提案する。 さらに,頑健なスパースFFNでバニラ変圧器を改良した。 モデル表現能力を効果的に向上し、優れた堅牢性を維持し、バニラ実装と比較して過度に適合するリスクを回避できる。 実世界の挑戦的データセットの評価を通じて,本手法は主モデルであるPatchTSTより優れ,MSEが6.5%,MAEが5.8%,多変量時系列予測が5.8%向上した。 コードは、https://github.com/yyg1282142265/Esiformer/tree/mainで入手できる。

関連論文リスト

• Beyond Data Scarcity: A Frequency-Driven Framework for Zero-Shot Forecasting [15.431513584239047]
  時系列予測は多くの現実世界の応用において重要である。 従来の予測技術は、データが不足しているか、全く利用できない場合に苦労する。 近年の進歩は、このようなタスクに大規模な基礎モデルを活用することが多い。
  論文  参考訳（メタデータ） (2024-11-24T07:44:39Z)
• Learning Graph Structures and Uncertainty for Accurate and Calibrated Time-series Forecasting [65.40983982856056]
  本稿では,時系列間の相関を利用して時系列間の構造を学習し,精度の高い正確な予測を行うSTOICを紹介する。 幅広いベンチマークデータセットに対して、STOICは16%の精度とキャリブレーションのよい予測を提供する。
  論文  参考訳（メタデータ） (2024-07-02T20:14:32Z)
• TimeSieve: Extracting Temporal Dynamics through Information Bottlenecks [31.10683149519954]
  本稿では,時系列予測モデルTimeSieveを提案する。 提案手法では、ウェーブレット変換を用いて時系列データを前処理し、マルチスケールの特徴を効果的にキャプチャする。 本研究は,時系列予測における課題に対処するためのアプローチの有効性を検証した。
  論文  参考訳（メタデータ） (2024-06-07T15:58:12Z)
• Attention as Robust Representation for Time Series Forecasting [23.292260325891032]
  多くの実用化には時系列予測が不可欠である。 トランスフォーマーの重要な特徴、注意機構、データ表現を強化するために動的に埋め込みを融合させ、しばしば注意重みを副産物の役割に還元する。 提案手法は,時系列の主表現として注目重みを高くし,データポイント間の時間的関係を利用して予測精度を向上させる。
  論文  参考訳（メタデータ） (2024-02-08T03:00:50Z)
• Transformer Multivariate Forecasting: Less is More? [42.558736426375056]
  本稿では,実行効率を最適化しながら予測精度を高めるために冗長な情報を削減することに焦点を当てる。 このフレームワークは、5つの最先端(SOTA)モデルと4つの多様な実世界のデータセットによって評価される。 PCA+Crossformer(PCA+Crossformer)は平均平方誤差(MSE)を33.3%減らし、平均で49.2%減らす。
  論文  参考訳（メタデータ） (2023-12-30T13:44:23Z)
• Learning Robust Precipitation Forecaster by Temporal Frame Interpolation [65.5045412005064]
  本研究では,空間的不一致に対するレジリエンスを示す頑健な降水予測モデルを構築した。 提案手法は,textit4cast'23コンペティションの移行学習リーダーボードにおいて,textit1位を確保したモデルにおいて,予測精度が大幅に向上した。
  論文  参考訳（メタデータ） (2023-11-30T08:22:08Z)
• Generative Time Series Forecasting with Diffusion, Denoise, and Disentanglement [51.55157852647306]
  時系列予測は多くのアプリケーションにおいて非常に重要な課題である。 実世界の時系列データが短時間に記録されることが一般的であり、これはディープモデルと限られたノイズのある時系列との間に大きなギャップをもたらす。 本稿では,生成モデルを用いた時系列予測問題に対処し,拡散,雑音,ゆがみを備えた双方向変分自動エンコーダを提案する。
  論文  参考訳（メタデータ） (2023-01-08T12:20:46Z)
• Multi-scale Attention Flow for Probabilistic Time Series Forecasting [68.20798558048678]
  マルチスケールアテンション正規化フロー(MANF)と呼ばれる非自己回帰型ディープラーニングモデルを提案する。 我々のモデルは累積誤差の影響を回避し、時間の複雑さを増大させない。 本モデルは,多くの多変量データセット上での最先端性能を実現する。
  論文  参考訳（メタデータ） (2022-05-16T07:53:42Z)
• TACTiS: Transformer-Attentional Copulas for Time Series [76.71406465526454]
  時間変化量の推定は、医療や金融などの分野における意思決定の基本的な構成要素である。 本稿では,アテンションベースデコーダを用いて関節分布を推定する多元的手法を提案する。 本研究では,本モデルが実世界の複数のデータセットに対して最先端の予測を生成することを示す。
  論文  参考訳（メタデータ） (2022-02-07T21:37:29Z)
• Evaluating Prediction-Time Batch Normalization for Robustness under Covariate Shift [81.74795324629712]
  我々は予測時間バッチ正規化と呼び、共変量シフト時のモデル精度とキャリブレーションを大幅に改善する。 予測時間バッチ正規化は、既存の最先端アプローチに相補的な利点をもたらし、ロバスト性を向上させることを示します。 この手法は、事前トレーニングと併用して使用すると、さまざまな結果が得られるが、より自然なタイプのデータセットシフトでは、パフォーマンスが良くないようだ。
  論文  参考訳（メタデータ） (2020-06-19T05:08:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。