論文の概要: LightCTS: A Lightweight Framework for Correlated Time Series Forecasting
- arxiv url: http://arxiv.org/abs/2302.11974v2
- Date: Mon, 27 Feb 2023 16:21:51 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-28 12:17:39.646195
- Title: LightCTS: A Lightweight Framework for Correlated Time Series Forecasting
- Title(参考訳): LightCTS: 関連時系列予測のための軽量フレームワーク
- Authors: Zhichen Lai, Dalin Zhang, Huan Li, Christian S. Jensen, Hua Lu, Yan
Zhao
- Abstract要約: 関連時系列予測(CTS)は,交通管理やサーバ負荷制御など,多くの実用アプリケーションにおいて重要な役割を担っている。
CTS予測の精度を向上させるために、多くのディープラーニングモデルが提案されている。
この研究は、リソース制約のあるデバイスにデプロイしながら精度を保ちながら、はるかに効率的で軽量なモデルを実現することを目的としている。
- 参考スコア(独自算出の注目度): 20.530759059714594
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Correlated time series (CTS) forecasting plays an essential role in many
practical applications, such as traffic management and server load control.
Many deep learning models have been proposed to improve the accuracy of CTS
forecasting. However, while models have become increasingly complex and
computationally intensive, they struggle to improve accuracy. Pursuing a
different direction, this study aims instead to enable much more efficient,
lightweight models that preserve accuracy while being able to be deployed on
resource-constrained devices. To achieve this goal, we characterize popular CTS
forecasting models and yield two observations that indicate directions for
lightweight CTS forecasting. On this basis, we propose the LightCTS framework
that adopts plain stacking of temporal and spatial operators instead of
alternate stacking that is much more computationally expensive. Moreover,
LightCTS features light temporal and spatial operator modules, called L-TCN and
GL-Former, that offer improved computational efficiency without compromising
their feature extraction capabilities. LightCTS also encompasses a last-shot
compression scheme to reduce redundant temporal features and speed up
subsequent computations. Experiments with single-step and multi-step
forecasting benchmark datasets show that LightCTS is capable of nearly
state-of-the-art accuracy at much reduced computational and storage overheads.
- Abstract(参考訳): 関連時系列予測(CTS)は,交通管理やサーバ負荷制御など,多くの実用アプリケーションにおいて重要な役割を担っている。
CTS予測の精度を向上させるために、多くのディープラーニングモデルが提案されている。
しかし、モデルはますます複雑で計算集約的になりつつあり、精度の向上に苦慮している。
この研究の目的は、リソース制約のあるデバイスにデプロイしながら精度を保ちながら、はるかに効率的で軽量なモデルを実現することである。
この目的を達成するために、一般的なCTS予測モデルを特徴付け、軽量CTS予測の方向を示す2つの観測結果を得る。
そこで本研究では,計算コストがはるかに高い交互積み重ねではなく,時間演算子と空間演算子の平易な積み重ねを採用するlightctsフレームワークを提案する。
さらに、LightCTSはL-TCNとGL-Formerと呼ばれる軽量時空間演算モジュールを備えており、特徴抽出能力を向上することなく計算効率を向上させる。
LightCTSはまた、余分な時間的特徴を減らし、その後の計算を高速化する最後の圧縮スキームを含んでいる。
シングルステップおよびマルチステップの予測ベンチマークデータセットによる実験では、LightCTSは計算とストレージのオーバーヘッドを大幅に削減して、ほぼ最先端の精度を実現できることが示された。
関連論文リスト
- Compressing Recurrent Neural Networks for FPGA-accelerated Implementation in Fluorescence Lifetime Imaging [3.502427552446068]
ディープラーニングモデルはリアルタイム推論を可能にするが、複雑なアーキテクチャと大規模な行列演算のために計算的に要求される。
これにより、フィールドプログラマブルゲートアレイ(FPGA)ベースのカメラハードウェアの直接実装に不適なDLモデルが得られる。
本研究では,FLI時系列データ処理に適したリカレントニューラルネットワーク(RNN)の圧縮に着目し,資源制約付きFPGAボードへの展開を実現する。
論文 参考訳(メタデータ) (2024-10-01T17:23:26Z) - Disentangling Spatial and Temporal Learning for Efficient Image-to-Video
Transfer Learning [59.26623999209235]
ビデオの空間的側面と時間的側面の学習を両立させるDiSTを提案する。
DiSTの非絡み合い学習は、大量の事前学習パラメータのバックプロパゲーションを避けるため、非常に効率的である。
5つのベンチマークの大規模な実験は、DiSTが既存の最先端メソッドよりも優れたパフォーマンスを提供することを示す。
論文 参考訳(メタデータ) (2023-09-14T17:58:33Z) - Spatiotemporal Attention-based Semantic Compression for Real-time Video
Recognition [117.98023585449808]
本稿では,各フレームにおけるフレームと画素の重要性を評価するために,時間的注意に基づくオートエンコーダ(STAE)アーキテクチャを提案する。
我々は3D-2D CNNを組み合わせた軽量デコーダを開発し、欠落した情報を再構成する。
実験の結果,VT_STAEはビデオデータセットH51を,5%の精度で104倍圧縮できることがわかった。
論文 参考訳(メタデータ) (2023-05-22T07:47:27Z) - Time-sensitive Learning for Heterogeneous Federated Edge Intelligence [52.83633954857744]
フェデレーションエッジインテリジェンス(FEI)システムにおけるリアルタイム機械学習について検討する。
FEIシステムは異種通信と計算資源分布を示す。
本稿では,共有MLモデルの協調学習における全体の実行時間を最小化するために,時間依存型フェデレーションラーニング(TS-FL)フレームワークを提案する。
論文 参考訳(メタデータ) (2023-01-26T08:13:22Z) - Unifying Synergies between Self-supervised Learning and Dynamic
Computation [53.66628188936682]
SSLとDCのパラダイム間の相互作用に関する新しい視点を提示する。
SSL設定において、スクラッチから高密度かつゲートされたサブネットワークを同時に学習することは可能であることを示す。
密集エンコーダとゲートエンコーダの事前学習における共進化は、良好な精度と効率のトレードオフをもたらす。
論文 参考訳(メタデータ) (2023-01-22T17:12:58Z) - Joint Neural Architecture and Hyperparameter Search for Correlated Time
Series Forecasting [40.98168931058165]
CTS予測の成功の鍵は、時系列の時間的ダイナミクスと時系列間の空間的相関を明らかにすることである。
ディープラーニングベースのソリューションは、これらの側面を識別する上で、素晴らしいパフォーマンスを示します。
我々は、効率的なCTS予測モデルを自動的に考案する、共同でスケーラブルなフレームワークであるSEARCHを提案する。
論文 参考訳(メタデータ) (2022-11-29T12:03:54Z) - A Systematic Exploration of Reservoir Computing for Forecasting Complex
Spatiotemporal Dynamics [0.0]
Reservoir Computer (RC) は、本質的にカオス力学系の予測アーキテクチャに成功しているリカレントニューラルネットワークの一種である。
多数の特性力学系に対する「クラス最良」RCのアーキテクチャと設計選択について検討する。
ローカライゼーションを用いた大規模モデルへのスケールアップにおけるこれらの選択の適用について述べる。
論文 参考訳(メタデータ) (2022-01-21T22:31:12Z) - Extrapolation for Large-batch Training in Deep Learning [72.61259487233214]
我々は、バリエーションのホストが、我々が提案する統一されたフレームワークでカバー可能であることを示す。
本稿では,この手法の収束性を証明し,ResNet,LSTM,Transformer上での経験的性能を厳格に評価する。
論文 参考訳(メタデータ) (2020-06-10T08:22:41Z) - Deep Echo State Networks for Short-Term Traffic Forecasting: Performance
Comparison and Statistical Assessment [8.586891288891263]
短期的な交通予測では、関心のある交通パラメータの将来の値を正確に予測することが目的である。
Deep Echo State Networksは、考慮されている他のモデリングモデルよりも正確なトラフィック予測を実現している。
論文 参考訳(メタデータ) (2020-04-17T11:07:25Z) - Convolutional Tensor-Train LSTM for Spatio-temporal Learning [116.24172387469994]
本稿では,ビデオシーケンスの長期相関を効率的に学習できる高次LSTMモデルを提案する。
これは、時間をかけて畳み込み特徴を組み合わせることによって予測を行う、新しいテンソルトレインモジュールによって達成される。
この結果は,幅広いアプリケーションやデータセットにおいて,最先端のパフォーマンス向上を実現している。
論文 参考訳(メタデータ) (2020-02-21T05:00:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。