論文の概要: Recency-Weighted Temporally-Segmented Ensemble for Time-Series Modeling
- arxiv url: http://arxiv.org/abs/2403.02150v1
- Date: Mon, 4 Mar 2024 16:00:35 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-06 18:19:41.950491
- Title: Recency-Weighted Temporally-Segmented Ensemble for Time-Series Modeling
- Title(参考訳): 時系列モデリングのための時間重み付けアンサンブル
- Authors: P{\aa}l V. Johnsen, Eivind B{\o}hn, S{\o}lve Eidnes, Filippo Remonato
and Signe Riemer-S{\o}rensen
- Abstract要約: プロセス産業における時系列モデリングは、複雑で多面的で進化するデータ特性を扱うという課題に直面している。
マルチステップ予測のための新しいチャンクベースアプローチであるRecency-Weighted Temporally-Segmented(ReWTS)アンサンブルモデルを導入する。
ノルウェーの排水処理場と飲料水処理場からの2年間のデータをもとに,比較分析を行った。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Time-series modeling in process industries faces the challenge of dealing
with complex, multi-faceted, and evolving data characteristics. Conventional
single model approaches often struggle to capture the interplay of diverse
dynamics, resulting in suboptimal forecasts. Addressing this, we introduce the
Recency-Weighted Temporally-Segmented (ReWTS, pronounced `roots') ensemble
model, a novel chunk-based approach for multi-step forecasting. The key
characteristics of the ReWTS model are twofold: 1) It facilitates
specialization of models into different dynamics by segmenting the training
data into `chunks' of data and training one model per chunk. 2) During
inference, an optimization procedure assesses each model on the recent past and
selects the active models, such that the appropriate mixture of previously
learned dynamics can be recalled to forecast the future. This method not only
captures the nuances of each period, but also adapts more effectively to
changes over time compared to conventional `global' models trained on all data
in one go. We present a comparative analysis, utilizing two years of data from
a wastewater treatment plant and a drinking water treatment plant in Norway,
demonstrating the ReWTS ensemble's superiority. It consistently outperforms the
global model in terms of mean squared forecasting error across various model
architectures by 10-70\% on both datasets, notably exhibiting greater
resilience to outliers. This approach shows promise in developing automatic,
adaptable forecasting models for decision-making and control systems in process
industries and other complex systems.
- Abstract(参考訳): プロセス産業における時系列モデリングは、複雑で多面的で進化するデータ特性を扱うという課題に直面している。
従来の単一モデルアプローチは、様々な力学の相互作用を捉えるのにしばしば苦労し、最適以下の予測をもたらす。
そこで我々は,マルチステップ予測のための新しいチャンクベースアプローチであるRecency-Weighted Temporally-Segmented(ReWTS)アンサンブルモデルを提案する。
ReWTSモデルの主な特徴は2つある。
1)トレーニングデータを‘チャンク’に分割し,チャンク毎に1つのモデルをトレーニングすることで,モデルを異なるダイナミクスに特殊化する。
2) 推論中, 最適化手法は過去の各モデルを評価し, 将来を予測するために, 予め学習したダイナミクスの適切な混合をリコールできるように, アクティブモデルを選択する。
この方法は、各周期のニュアンスをキャプチャするだけでなく、すべてのデータでトレーニングされた従来の“グローバル”モデルよりも、時間とともに変化に効果的に対応します。
本研究では,ノルウェーの排水処理場と飲料水処理場からの2年間のデータを用いて,rewtsアンサンブルの優越性を示す比較分析を行った。
さまざまなモデルアーキテクチャで平均2乗予測エラーを両データセットで10-70\%も上回っており、特に外れ値に対するレジリエンスが向上している。
このアプローチは、プロセス産業やその他の複雑なシステムにおける意思決定および制御システムのための自動的、適応可能な予測モデルの開発に期待を示す。
関連論文リスト
- Generative Pretrained Hierarchical Transformer for Time Series
Forecasting [4.012001172505646]
本稿ではGPHTと呼ばれる予測のための新しい生成事前学習型階層型トランスフォーマアーキテクチャを提案する。
一方、我々は、様々なデータシナリオから様々なデータセットから構成される、モデルを事前訓練するための混合データセットの構築を提唱する。
一方、GPHTはチャネルに依存しない仮定の下で自己回帰予測手法を採用し、出力系列における時間的依存関係を効果的にモデル化する。
論文 参考訳(メタデータ) (2024-02-26T11:54:54Z) - Towards Theoretical Understandings of Self-Consuming Generative Models [60.98692028151328]
本稿では,自己消費ループ内で生成モデルを訓練する新たな課題に取り組む。
我々は,この学習規則が将来のモデルで学習したデータ分布に与える影響を厳格に評価するための理論的枠組みを構築した。
我々は拡散モデルに一般結果を特化し、自己消費ループ内での最適な早期停止の有効性などの微妙な洞察を提供する。
論文 参考訳(メタデータ) (2024-02-19T02:08:09Z) - Predictive Churn with the Set of Good Models [64.05949860750235]
近似機械学習モデルの集合に対する競合予測の効果について検討する。
ラーショモン集合内のモデル間の係り受けに関する理論的結果を示す。
当社のアプローチは、コンシューマ向けアプリケーションにおいて、より予測し、削減し、混乱を避けるためにどのように使用できるかを示します。
論文 参考訳(メタデータ) (2024-02-12T16:15:25Z) - Federated Learning with Projected Trajectory Regularization [65.6266768678291]
フェデレーション学習は、ローカルデータを共有せずに、分散クライアントから機械学習モデルの共同トレーニングを可能にする。
連合学習における重要な課題の1つは、クライアントにまたがる識別できない分散データを扱うことである。
本稿では,データ問題に対処するための予測軌道正則化(FedPTR)を備えた新しいフェデレーション学習フレームワークを提案する。
論文 参考訳(メタデータ) (2023-12-22T02:12:08Z) - EAMDrift: An interpretable self retrain model for time series [0.0]
EAMDrift(EAMDrift)は、複数の個人予測器から予測を合成し、性能指標に従って予測を重み付けする新しい手法である。
EAMDriftはデータのアウト・オブ・ディストリビューションパターンに自動的に適応し、各瞬間に使用する最も適切なモデルを特定するように設計されている。
本研究は,EAMDriftが個々のベースラインモデルより20%優れ,非解釈可能なアンサンブルモデルに匹敵する精度が得られることを示す。
論文 参考訳(メタデータ) (2023-05-31T13:25:26Z) - Deep incremental learning models for financial temporal tabular datasets
with distribution shifts [0.9790236766474201]
このフレームワークは、単純な基本的なビルディングブロック(決定木)を使用して、必要な複雑さの自己相似モデルを構築する。
我々は,NumeraiデータセットでトレーニングしたXGBoostモデルを用いて提案手法を実証し,異なるモデルスナップショット上での2層のXGBoostモデルの深部アンサンブルが高品質な予測を提供することを示す。
論文 参考訳(メタデータ) (2023-03-14T14:10:37Z) - Dataless Knowledge Fusion by Merging Weights of Language Models [51.8162883997512]
微調整された事前学習言語モデルは、下流のNLPモデルを構築するための主要なパラダイムとなっている。
これは、より優れた単一モデルを生み出すために、個々のモデル間で知識を融合させる障壁を生み出します。
パラメータ空間のモデルをマージするデータレス知識融合法を提案する。
論文 参考訳(メタデータ) (2022-12-19T20:46:43Z) - Closed-form Continuous-Depth Models [99.40335716948101]
連続深度ニューラルモデルは高度な数値微分方程式解法に依存している。
我々は,CfCネットワークと呼ばれる,記述が簡単で,少なくとも1桁高速な新しいモデル群を提示する。
論文 参考訳(メタデータ) (2021-06-25T22:08:51Z) - Anomaly Detection of Time Series with Smoothness-Inducing Sequential
Variational Auto-Encoder [59.69303945834122]
Smoothness-Inducing Sequential Variational Auto-Encoder (SISVAE) モデルを提案する。
我々のモデルは、フレキシブルニューラルネットワークを用いて各タイムスタンプの平均と分散をパラメータ化する。
合成データセットと公開実世界のベンチマークの両方において,本モデルの有効性を示す。
論文 参考訳(メタデータ) (2021-02-02T06:15:15Z) - Global Models for Time Series Forecasting: A Simulation Study [2.580765958706854]
自動回帰(AR)や季節ARのような単純なデータ生成プロセス(DGP)からカオスロジスティックマップ、自己興奮型閾値自動回帰、マッキーグラス方程式といった複雑なDGPまで、時系列をシミュレートする。
データセットの長さと系列数は、さまざまなシナリオで変化します。
我々はこれらのデータセットに対して,Recurrent Neural Networks (RNN), Feed-Forward Neural Networks, Pooled Regression (PR) Model, Light Gradient Boosting Models (LGBM)などの大域的予測モデルを用いて実験を行った。
論文 参考訳(メタデータ) (2020-12-23T04:45:52Z) - Reinforcement Learning based dynamic weighing of Ensemble Models for
Time Series Forecasting [0.8399688944263843]
データモデリングのために選択されたモデルが(線形/非線形、静的/動的)異なるモデルと独立(最小相関)モデルである場合、予測の精度が向上することが知られている。
アンサンブルモデルを重み付けするために文献で提案された様々なアプローチは、静的な重みセットを使用する。
この問題に対処するため、Reinforcement Learning (RL)アプローチでは、各モデルの重み付けを異なるタイミングで動的に割り当て、更新する。
論文 参考訳(メタデータ) (2020-08-20T10:40:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。