論文の概要: Random Projection Layers for Multidimensional Time Series Forecasting
- arxiv url: http://arxiv.org/abs/2402.10487v2
- Date: Thu, 29 Feb 2024 01:04:15 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-01 17:45:57.338820
- Title: Random Projection Layers for Multidimensional Time Series Forecasting
- Title(参考訳): 多次元時系列予測のためのランダム投影層
- Authors: Chin-Chia Michael Yeh, Yujie Fan, Xin Dai, Vivian Lai, Prince Osei
Aboagye, Junpeng Wang, Huiyuan Chen, Yan Zheng, Zhongfang Zhuang, Liang Wang,
Wei Zhang
- Abstract要約: RPMixerと呼ばれる全MLP時系列予測アーキテクチャを提案する。
本手法は,各ブロックがアンサンブルモデルにおいてベース学習者のように振る舞う深層ニューラルネットワークのアンサンブル的挙動を利用する。
提案手法は時空間グラフモデルと一般予測モデルの両方を含む代替手法より優れている。
- 参考スコア(独自算出の注目度): 34.41467079882721
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: All-Multi-Layer Perceptron (all-MLP) mixer models have been shown to be
effective for time series forecasting problems. However, when such a model is
applied to high-dimensional time series (e.g., the time series in a
spatial-temporal dataset), its performance is likely to degrade due to
overfitting issues. In this paper, we propose an all-MLP time series
forecasting architecture, referred to as RPMixer. Our method leverages the
ensemble-like behavior of deep neural networks, where each individual block
within the network acts like a base learner in an ensemble model, especially
when identity mapping residual connections are incorporated. By integrating
random projection layers into our model, we increase the diversity among the
blocks' outputs, thereby enhancing the overall performance of RPMixer.
Extensive experiments conducted on large-scale spatial-temporal forecasting
benchmark datasets demonstrate that our proposed method outperforms alternative
methods, including both spatial-temporal graph models and general forecasting
models.
- Abstract(参考訳): All-Multi-Layer Perceptron (All-MLP) ミキサーモデルは時系列予測問題に有効であることが示されている。
しかし、そのようなモデルが高次元時系列(例えば時空間データセットの時系列)に適用された場合、その性能は過度な問題のために低下する可能性が高い。
本稿では、RPMixerと呼ばれる全MLP時系列予測アーキテクチャを提案する。
本手法は深層ニューラルネットワークのアンサンブル的挙動を利用しており,ネットワーク内の各ブロックはアンサンブルモデルにおいてベース学習者のように振る舞う。
ランダムなプロジェクション層をモデルに統合することにより、ブロックの出力の多様性を高め、RPMixerの全体的な性能を向上させる。
大規模時空間予測ベンチマークを用いて行った大規模な実験により,提案手法は空間時空間グラフモデルと一般予測モデルの両方を含む代替手法より優れていることが示された。
関連論文リスト
- Unified Training of Universal Time Series Forecasting Transformers [110.79681024473159]
マスク型ユニバーサル時系列予測変換器(モイライ)について述べる。
Moiraiは、新たに導入された大規模オープンタイムシリーズアーカイブ(LOTSA)で訓練されており、9つのドメインで27億以上の観測が行われた。
Moiraiは、フルショットモデルと比較してゼロショットの予測器として、競争力や優れたパフォーマンスを達成する。
論文 参考訳(メタデータ) (2024-02-04T20:00:45Z) - TimeSiam: A Pre-Training Framework for Siamese Time-Series Modeling [70.38241681764738]
時系列事前トレーニングは、最近、ラベルのコストを削減し、下流の様々なタスクに利益をもたらす可能性があるとして、広く注目を集めている。
本稿では,シームズネットワークに基づく時系列の簡易かつ効果的な自己教師型事前学習フレームワークとしてTimeSiamを提案する。
論文 参考訳(メタデータ) (2024-02-04T13:10:51Z) - Timer: Transformers for Time Series Analysis at Scale [87.9808714449511]
本稿では,大規模時系列モデル(LTSM)の早期開発を目的とした。
事前トレーニング中に、最大10億のタイムポイントを持つ大規模なデータセットをキュレートします。
多様なアプリケーションのニーズを満たすため,予測,計算,時系列の異常検出を統一的な生成タスクに変換する。
論文 参考訳(メタデータ) (2024-02-04T06:55:55Z) - TPRNN: A Top-Down Pyramidal Recurrent Neural Network for Time Series
Forecasting [7.08506873242564]
時系列は、異なるスケールで異なる時間パターン、すなわち異なる時間パターンを持つ。
時系列予測のためのTPRNN(Top-down Pyramidal Recurrent Neural Network)を提案する。
TPRNNは、最高のベースラインに比べて平均8.13%改善して最先端のパフォーマンスを達成した。
論文 参考訳(メタデータ) (2023-12-11T12:21:45Z) - A Multi-Scale Decomposition MLP-Mixer for Time Series Analysis [15.260612266625847]
我々は、入力時系列を異なるコンポーネントに明示的に分解することを学ぶマルチスケール分解ミクサーであるMSD-Mixerを提案する。
我々は、MSD-Mixerが、他の最先端タスクジェネラルおよびタスク固有のアプローチと比較して、一貫して優れた性能を示すことを示した。
論文 参考訳(メタデータ) (2023-10-18T13:39:07Z) - An Unsupervised Short- and Long-Term Mask Representation for
Multivariate Time Series Anomaly Detection [2.387411589813086]
本稿では,教師なし短時間・長期マスク表現学習(SLMR)に基づく異常検出手法を提案する。
実験により,本手法の性能は,実世界の3つのデータセットにおいて,他の最先端モデルよりも優れていることが示された。
論文 参考訳(メタデータ) (2022-08-19T09:34:11Z) - Multi-scale Attention Flow for Probabilistic Time Series Forecasting [68.20798558048678]
マルチスケールアテンション正規化フロー(MANF)と呼ばれる非自己回帰型ディープラーニングモデルを提案する。
我々のモデルは累積誤差の影響を回避し、時間の複雑さを増大させない。
本モデルは,多くの多変量データセット上での最先端性能を実現する。
論文 参考訳(メタデータ) (2022-05-16T07:53:42Z) - Time Series Anomaly Detection by Cumulative Radon Features [32.36217153362305]
本研究は,分布距離測定と組み合わせた場合,浅部特徴が十分であると主張する。
提案手法は,各時系列を高次元的特徴分布としてモデル化する。
累積ラドン特徴量を用いて各時系列をパラメータ化することにより、正規時系列の分布を効率的に効果的にモデル化できることを示す。
論文 参考訳(メタデータ) (2022-02-08T18:58:53Z) - Cluster-and-Conquer: A Framework For Time-Series Forecasting [94.63501563413725]
本稿では,高次元時系列データを予測するための3段階フレームワークを提案する。
当社のフレームワークは非常に汎用的で,各ステップで時系列予測やクラスタリングが利用可能です。
単純な線形自己回帰モデルでインスタンス化されると、いくつかのベンチマークデータセットで最先端の結果が得られる。
論文 参考訳(メタデータ) (2021-10-26T20:41:19Z) - Deep Autoregressive Models with Spectral Attention [74.08846528440024]
本稿では,深部自己回帰モデルとスペクトル注意(SA)モジュールを組み合わせた予測アーキテクチャを提案する。
時系列の埋め込みをランダムなプロセスの発生としてスペクトル領域に特徴付けることにより,グローバルな傾向と季節パターンを同定することができる。
時系列に対するグローバルとローカルの2つのスペクトルアテンションモデルは、この情報を予測の中に統合し、スペクトルフィルタリングを行い、時系列のノイズを除去する。
論文 参考訳(メタデータ) (2021-07-13T11:08:47Z) - Global Models for Time Series Forecasting: A Simulation Study [2.580765958706854]
自動回帰(AR)や季節ARのような単純なデータ生成プロセス(DGP)からカオスロジスティックマップ、自己興奮型閾値自動回帰、マッキーグラス方程式といった複雑なDGPまで、時系列をシミュレートする。
データセットの長さと系列数は、さまざまなシナリオで変化します。
我々はこれらのデータセットに対して,Recurrent Neural Networks (RNN), Feed-Forward Neural Networks, Pooled Regression (PR) Model, Light Gradient Boosting Models (LGBM)などの大域的予測モデルを用いて実験を行った。
論文 参考訳(メタデータ) (2020-12-23T04:45:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。