論文の概要: Attention-based Neural Load Forecasting: A Dynamic Feature Selection
Approach
- arxiv url: http://arxiv.org/abs/2108.11763v1
- Date: Wed, 25 Aug 2021 02:22:10 GMT
- ステータス: 処理完了
- システム内更新日: 2021-08-27 13:50:39.156473
- Title: Attention-based Neural Load Forecasting: A Dynamic Feature Selection
Approach
- Title(参考訳): 注意に基づく神経負荷予測:動的特徴選択アプローチ
- Authors: Jing Xiong, Pengyang Zhou, Alan Chen and Yu Zhang
- Abstract要約: 我々は,関連する特徴や類似の時間情報を適応的に選択するアテンションモデルを開発した。
2014年の世界エネルギー予測コンペティションのデータセットで検証した結果,提案手法は既存の予測手法よりも優れていたことが判明した。
- 参考スコア(独自算出の注目度): 5.760083798181908
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Encoder-decoder-based recurrent neural network (RNN) has made significant
progress in sequence-to-sequence learning tasks such as machine translation and
conversational models. Recent works have shown the advantage of this type of
network in dealing with various time series forecasting tasks. The present
paper focuses on the problem of multi-horizon short-term load forecasting,
which plays a key role in the power system's planning and operation. Leveraging
the encoder-decoder RNN, we develop an attention model to select the relevant
features and similar temporal information adaptively. First, input features are
assigned with different weights by a feature selection attention layer, while
the updated historical features are encoded by a bi-directional long short-term
memory (BiLSTM) layer. Then, a decoder with hierarchical temporal attention
enables a similar day selection, which re-evaluates the importance of
historical information at each time step. Numerical results tested on the
dataset of the global energy forecasting competition 2014 show that our
proposed model significantly outperforms some existing forecasting schemes.
- Abstract(参考訳): エンコーダデコーダに基づくリカレントニューラルネットワーク(RNN)は,機械翻訳や会話モデルといったシーケンス対シーケンス学習タスクにおいて,大きな進歩を遂げている。
最近の研究は、様々な時系列予測タスクを扱う上で、この種のネットワークの利点を示している。
本稿では,電力系統の計画・運用において重要な役割を果たすマルチ水平短期負荷予測の問題に焦点をあてる。
エンコーダ・デコーダRNNを利用して、関連する特徴や類似の時間情報を適応的に選択するアテンションモデルを開発する。
まず、入力特徴は特徴選択注意層によって異なる重みに割り当てられ、更新された履歴特徴は双方向長短期記憶層(BiLSTM)によって符号化される。
そして、階層的な時間的注意を持つデコーダは、時間ステップ毎に履歴情報の重要性を再評価する類似の日選択を可能にする。
2014年の世界エネルギー予測コンペティションのデータセットで検証した結果,提案手法は既存の予測手法よりも優れていた。
関連論文リスト
- Unveiling the Power of Sparse Neural Networks for Feature Selection [60.50319755984697]
スパースニューラルネットワーク(SNN)は、効率的な特徴選択のための強力なツールとして登場した。
動的スパーストレーニング(DST)アルゴリズムで訓練されたSNNは、平均して50%以上のメモリと55%以上のFLOPを削減できることを示す。
以上の結果から,DSTアルゴリズムで訓練したSNNによる特徴選択は,平均して50ドル以上のメモリと55%のFLOPを削減できることがわかった。
論文 参考訳(メタデータ) (2024-08-08T16:48:33Z) - Adapting to Length Shift: FlexiLength Network for Trajectory Prediction [53.637837706712794]
軌道予測は、自律運転、ロボット工学、シーン理解など、様々な応用において重要な役割を果たしている。
既存のアプローチは主に、一般に標準入力時間を用いて、公開データセットの予測精度を高めるために、コンパクトなニューラルネットワークの開発に重点を置いている。
本稿では,様々な観測期間に対する既存の軌道予測の堅牢性を高めるための,汎用的で効果的なフレームワークFlexiLength Network(FLN)を紹介する。
論文 参考訳(メタデータ) (2024-03-31T17:18:57Z) - Embedded feature selection in LSTM networks with multi-objective
evolutionary ensemble learning for time series forecasting [49.1574468325115]
本稿では,Long Short-Term Memory Networkに埋め込まれた特徴選択手法を提案する。
本手法はLSTMの重みと偏りを分割的に最適化する。
イタリアとスペイン南東部の大気質時系列データの実験的評価により,従来のLSTMの能力一般化が著しく向上することが確認された。
論文 参考訳(メタデータ) (2023-12-29T08:42:10Z) - FocusLearn: Fully-Interpretable, High-Performance Modular Neural Networks for Time Series [0.3277163122167434]
本稿では,構築によって解釈可能な時系列予測のための新しいモジュール型ニューラルネットワークモデルを提案する。
リカレントニューラルネットワークはデータ内の時間的依存関係を学習し、アテンションベースの特徴選択コンポーネントは最も関連性の高い特徴を選択する。
モジュール型のディープネットワークは、選択した機能から独立してトレーニングされ、ユーザーが機能がどのように結果に影響を与えるかを示し、モデルを解釈できる。
論文 参考訳(メタデータ) (2023-11-28T14:51:06Z) - HUTFormer: Hierarchical U-Net Transformer for Long-Term Traffic
Forecasting [13.49661832917228]
我々は,例えば1日間の予測など,長期の交通予測を探求する最初の試みを行っている。
本稿では,長期交通予測の問題に対処する新しい階層型U-netトランスフォーマーを提案する。
提案したHUTFormerは、最先端のトラフィック予測と長時間の時系列予測ベースラインを大きく上回っている。
論文 参考訳(メタデータ) (2023-07-27T02:43:21Z) - MTS2Graph: Interpretable Multivariate Time Series Classification with
Temporal Evolving Graphs [1.1756822700775666]
入力代表パターンを抽出・クラスタリングすることで時系列データを解釈する新しいフレームワークを提案する。
UCR/UEAアーカイブの8つのデータセットとHARとPAMデータセットで実験を行います。
論文 参考訳(メタデータ) (2023-06-06T16:24:27Z) - How neural networks learn to classify chaotic time series [77.34726150561087]
本研究では,通常の逆カオス時系列を分類するために訓練されたニューラルネットワークの内部動作について検討する。
入力周期性とアクティベーション周期の関係は,LKCNNモデルの性能向上の鍵となる。
論文 参考訳(メタデータ) (2023-06-04T08:53:27Z) - FormerTime: Hierarchical Multi-Scale Representations for Multivariate
Time Series Classification [53.55504611255664]
formerTimeは、多変量時系列分類タスクの分類能力を改善する階層的表現モデルである。
1)時系列データから階層的なマルチスケール表現を学習し、(2)トランスフォーマーと畳み込みネットワークの強さを継承し、(3)自己維持メカニズムによって引き起こされる効率の課題に取り組む。
論文 参考訳(メタデータ) (2023-02-20T07:46:14Z) - Multi-head Temporal Attention-Augmented Bilinear Network for Financial
time series prediction [77.57991021445959]
本稿では,時間的注意と多面的注意の考え方に基づいて,ニューラルネットワークの能力を拡張するニューラルネットワーク層を提案する。
本手法の有効性を,大規模書籍市場データを用いて検証した。
論文 参考訳(メタデータ) (2022-01-14T14:02:19Z) - Time Series Forecasting with Ensembled Stochastic Differential Equations
Driven by L\'evy Noise [2.3076895420652965]
我々は、ニューラルネットワークを備えたSDEの集合を用いて、ノイズのある時系列の長期的な傾向を予測する。
まず、位相空間再構成法を用いて時系列データの固有次元を抽出する。
次に、$alpha$-stable L'evyの動作によって駆動されるSDEを探索し、時系列データをモデル化し、ニューラルネットワーク近似を用いて問題を解く。
論文 参考訳(メタデータ) (2021-11-25T16:49:01Z) - Contextual HyperNetworks for Novel Feature Adaptation [43.49619456740745]
Contextual HyperNetwork(CHN)は、ベースモデルを新機能に拡張するためのパラメータを生成する。
予測時、CHNはニューラルネットワークを通る単一のフォワードパスのみを必要とし、大幅なスピードアップをもたらす。
本システムでは,既存のインプテーションやメタラーニングベースラインよりも,新しい特徴のマイズショット学習性能が向上することを示す。
論文 参考訳(メタデータ) (2021-04-12T23:19:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。