論文の概要: Embedded feature selection in LSTM networks with multi-objective evolutionary ensemble learning for time series forecasting

• arxiv url: http://arxiv.org/abs/2312.17517v1
• Date: Fri, 29 Dec 2023 08:42:10 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-02 12:50:47.344064
• Title: Embedded feature selection in LSTM networks with multi-objective evolutionary ensemble learning for time series forecasting
• Title（参考訳）: 時系列予測のための多目的進化アンサンブル学習を用いたLSTMネットワークにおける組込み特徴選択
• Authors: Raquel Espinosa, Fernando Jim\'enez, Jos\'e Palma
• Abstract要約: 本稿では,Long Short-Term Memory Networkに埋め込まれた特徴選択手法を提案する。 本手法はLSTMの重みと偏りを分割的に最適化する。 イタリアとスペイン南東部の大気質時系列データの実験的評価により,従来のLSTMの能力一般化が著しく向上することが確認された。
• 参考スコア（独自算出の注目度）: 49.1574468325115
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Time series forecasting plays a crucial role in diverse fields, necessitating the development of robust models that can effectively handle complex temporal patterns. In this article, we present a novel feature selection method embedded in Long Short-Term Memory networks, leveraging a multi-objective evolutionary algorithm. Our approach optimizes the weights and biases of the LSTM in a partitioned manner, with each objective function of the evolutionary algorithm targeting the root mean square error in a specific data partition. The set of non-dominated forecast models identified by the algorithm is then utilized to construct a meta-model through stacking-based ensemble learning. Furthermore, our proposed method provides an avenue for attribute importance determination, as the frequency of selection for each attribute in the set of non-dominated forecasting models reflects their significance. This attribute importance insight adds an interpretable dimension to the forecasting process. Experimental evaluations on air quality time series data from Italy and southeast Spain demonstrate that our method substantially improves the generalization ability of conventional LSTMs, effectively reducing overfitting. Comparative analyses against state-of-the-art CancelOut and EAR-FS methods highlight the superior performance of our approach.
• Abstract（参考訳）: 時系列予測は様々な分野において重要な役割を担い、複雑な時間パターンを効果的に扱える堅牢なモデルの開発を必要とする。 本稿では,多目的進化アルゴリズムを用いて,長期短期記憶ネットワークに埋め込まれた特徴選択手法を提案する。 本手法は,特定のデータ分割におけるルート平均二乗誤差をターゲットとした進化的アルゴリズムの各目的関数を用いて,LSTMの重みと偏りを分割的に最適化する。 アルゴリズムによって同定された非支配予測モデルの集合を用いて、積み重ねに基づくアンサンブル学習によりメタモデルを構築する。 さらに,提案手法は,非支配的予測モデル群における属性選択頻度が属性の重要性を反映しているため,属性重要度決定への道筋を提供する。 この属性の重要性 洞察は予測プロセスに解釈可能な次元を追加します。 イタリアとスペイン南東部の大気質時系列データを用いた実験により,従来のLSTMの一般化能力を大幅に向上し,オーバーフィッティングを効果的に低減することを示した。 CancelOut法とEAR-FS法の比較分析により,本手法の優れた性能が示された。

関連論文リスト

• Classification of High-dimensional Time Series in Spectral Domain using Explainable Features [8.656881800897661]
  本稿では,高次元定常時系列を分類するためのモデルに基づくアプローチを提案する。 我々のアプローチはモデルパラメータの解釈可能性を強調し、神経科学のような分野に特に適している。 我々の手法の新規性は、モデルパラメータの解釈可能性にあり、神経科学における重要なニーズに対処する。
  論文  参考訳（メタデータ） (2024-08-15T19:10:12Z)
• RHiOTS: A Framework for Evaluating Hierarchical Time Series Forecasting Algorithms [0.393259574660092]
  RHiOTSは、階層的な時系列予測モデルとアルゴリズムを実世界のデータセット上で堅牢性を評価するように設計されている。 RHiOTSは、複雑な多次元ロバストネス評価結果を直感的で容易に解釈可能なビジュアルに変換する革新的な可視化コンポーネントを組み込んでいる。 従来の統計的手法は、変換効果が非常に破壊的である場合を除き、最先端のディープラーニングアルゴリズムよりも頑健であることを示す。
  論文  参考訳（メタデータ） (2024-08-06T18:52:15Z)
• SFANet: Spatial-Frequency Attention Network for Weather Forecasting [54.470205739015434]
  天気予報は様々な分野において重要な役割を担い、意思決定とリスク管理を推進している。 伝統的な手法は、しばしば気象系の複雑な力学を捉えるのに苦労する。 本稿では,これらの課題に対処し,天気予報の精度を高めるための新しい枠組みを提案する。
  論文  参考訳（メタデータ） (2024-05-29T08:00:15Z)
• Comparative Evaluation of Metaheuristic Algorithms for Hyperparameter Selection in Short-Term Weather Forecasting [0.0]
  本稿では,遺伝的アルゴリズム (GA), 微分進化 (DE), 粒子群最適化 (PSO) のメタヒューリスティックアルゴリズムの適用について検討する。 平均二乗誤差(MSE)や平均絶対パーセンテージ誤差(MAPE)といった指標に基づいて天気予報の性能を評価する。
  論文  参考訳（メタデータ） (2023-09-05T22:13:35Z)
• Latent Variable Representation for Reinforcement Learning [131.03944557979725]
  モデルに基づく強化学習のサンプル効率を改善するために、潜在変数モデルが学習、計画、探索をいかに促進するかは理論上、実証上、不明である。 状態-作用値関数に対する潜在変数モデルの表現ビューを提供する。これは、抽出可能な変分学習アルゴリズムと楽観主義/悲観主義の原理の効果的な実装の両方を可能にする。 特に,潜伏変数モデルのカーネル埋め込みを組み込んだUPB探索を用いた計算効率の良い計画アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-12-17T00:26:31Z)
• An Unsupervised Short- and Long-Term Mask Representation for Multivariate Time Series Anomaly Detection [2.387411589813086]
  本稿では,教師なし短時間・長期マスク表現学習(SLMR)に基づく異常検出手法を提案する。 実験により,本手法の性能は,実世界の3つのデータセットにおいて,他の最先端モデルよりも優れていることが示された。
  論文  参考訳（メタデータ） (2022-08-19T09:34:11Z)
• Deep Autoregressive Models with Spectral Attention [74.08846528440024]
  本稿では,深部自己回帰モデルとスペクトル注意(SA)モジュールを組み合わせた予測アーキテクチャを提案する。 時系列の埋め込みをランダムなプロセスの発生としてスペクトル領域に特徴付けることにより,グローバルな傾向と季節パターンを同定することができる。 時系列に対するグローバルとローカルの2つのスペクトルアテンションモデルは、この情報を予測の中に統合し、スペクトルフィルタリングを行い、時系列のノイズを除去する。
  論文  参考訳（メタデータ） (2021-07-13T11:08:47Z)
• Ensembles of Randomized NNs for Pattern-based Time Series Forecasting [0.0]
  本稿では,ランダム化ニューラルネットワークに基づくアンサンブル予測手法を提案する。 時系列のパターンに基づく表現は、複数の季節の時系列を予測するのに適している。 4つの実世界の予測問題に対するケーススタディにより,提案手法の有効性と性能が検証された。
  論文  参考訳（メタデータ） (2021-07-08T20:13:50Z)
• Feature Transformation Ensemble Model with Batch Spectral Regularization for Cross-Domain Few-Shot Classification [66.91839845347604]
  特徴抽出ネットワークの後に多様な特徴変換を行うことにより,アンサンブル予測モデルを提案する。 我々は,事前学習中に特徴行列の特異値を抑制するために,バッチスペクトル正規化項を用い,モデルの一般化能力を向上させる。 提案したモデルは、ターゲット領域で微調整して、数発の分類に対処することができる。
  論文  参考訳（メタデータ） (2020-05-18T05:31:04Z)
• Meta-learning framework with applications to zero-shot time-series forecasting [82.61728230984099]
  この研究は幅広いメタラーニングフレームワークを使って肯定的な証拠を提供する。 残余接続はメタラーニング適応機構として機能する。 我々は、ソースTSデータセット上でニューラルネットワークをトレーニングし、異なるターゲットTSデータセット上で再トレーニングすることなくデプロイできることを示します。
  論文  参考訳（メタデータ） (2020-02-07T16:39:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。