論文の概要: Attention-based Experience Replay Framework for Continual Learning of Agnostic Time Series Forecasting Models
- arxiv url: http://arxiv.org/abs/2607.20493v1
- Date: Fri, 12 Jun 2026 11:44:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-27 00:46:13.200828
- Title: Attention-based Experience Replay Framework for Continual Learning of Agnostic Time Series Forecasting Models
- Title(参考訳): アテンションに基づく時系列予測モデルの連続学習のためのエクスペリエンス・リプレイ・フレームワーク
- Abstract要約: 連続学習は、計算制約下での安定性と可塑性のバランスを維持しつつ、漸進的に適応可能なモデルを開発することを目的としている。
本稿では,既存の静的予測モデルの拡張を目的とした連続時系列予測のための新しいフレームワークを提案する。
その結果,再トレーニングコストとデータ要求を低減しつつ,予測性能を時間とともに効果的に向上または維持することを示す。
- 参考スコア(独自算出の注目度): 0.9668407688201359
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep learning has led to remarkable progress in artificial intelligence, particularly in robotics, imaging and sound processing. However, a major limitation of neural networks remains their strong dependence on large and stationary datasets. In many real-world applications, these conditions are rarely met due to evolving and dynamic environments where data distributions change over time. Continual learning aims to address this challenge by developing models capable of adapting incrementally while maintaining a balance between stability and plasticity under computational constraints. In this work, we introduce a novel framework for continual time series forecasting, designed to extend existing static forecasting models commonly used in the literature by incorporating an Experience Replay strategy guided by Attention mechanisms. This approach allows the model to adapt dynamically to new contexts while preserving prior knowledge, effectively mitigating catastrophic forgetting. The framework is evaluated on standard forecasting benchmarks as well as on a piezometric dataset exhibiting diverse temporal behaviors. Results show that our approach effectively increases or maintains predictive performance over time while reducing retraining costs and data requirements, thus facilitating the deployment of forecasting models in dynamic and real-world settings.
- Abstract(参考訳): ディープラーニングは人工知能、特にロボティクス、イメージング、音響処理において顕著な進歩をもたらした。
しかし、ニューラルネットワークの大きな制限は、大規模で定常的なデータセットに強く依存している。
多くの現実世界のアプリケーションでは、データ分散が時間とともに変化する進化と動的環境のために、これらの条件が満たされることはめったにない。
連続学習は、計算制約下での安定性と可塑性のバランスを維持しながら、漸進的に適応可能なモデルを開発することで、この問題に対処することを目的としている。
本研究では,本研究で一般的に用いられている静的予測モデルの拡張を目的とした,連続時系列予測のための新しいフレームワークを提案する。
このアプローチにより、モデルが事前知識を保持しながら新しいコンテキストに動的に適応し、破滅的な忘れを効果的に軽減できる。
このフレームワークは、標準的な予測ベンチマークと、多様な時間的挙動を示すピエゾメトリックデータセットで評価される。
その結果,本手法は時間とともに予測性能を効果的に向上・維持すると同時に,トレーニングコストとデータ要求を低減し,動的および実世界の環境における予測モデルの展開を容易にすることが示唆された。
関連論文リスト
- LeapTS: Rethinking Time Series Forecasting as Adaptive Multi-Horizon Scheduling [74.94985663101906]
本稿では,予測地平線上での動的スケジューリングプロセスとして時系列予測を再構成する新しいフレームワーク LeapTSを提案する。
LeapTSは、Transformerベースのモデルよりも2.6$times$から5.3$times$推論スピードアップを実現しつつ、全体的な予測性能を少なくとも7.4%向上させる。
論文 参考訳(メタデータ) (2026-05-11T09:54:02Z) - On Neural Scaling Laws for Weather Emulation through Continual Training [76.70310203875866]
我々はScientific Machine Learningにおけるニューラルスケーリングについて研究し、天気予報モデルに焦点を当てた。
可能な限り簡単な設定でスケーリング動作を解析するために、最小限でスケーラブルで汎用的なSwin Transformerアーキテクチャを採用する。
この最小限の方法でトレーニングされたモデルは、予測可能なスケーリングトレンドに従っており、標準的なコサイン学習率のスケジュールよりも優れています。
論文 参考訳(メタデータ) (2026-03-26T17:37:25Z) - Seeking SOTA: Time-Series Forecasting Must Adopt Taxonomy-Specific Evaluation to Dispel Illusory Gains [17.650604674194984]
我々は、AI/ML時系列予測モデルを評価する現在の実践は、効率的な古典的手法の性能を見極めることで、実際の進歩を曖昧にしていると論じる。
これらの「標準」データセットは、しばしばより単純な線形または統計モデルによって効果的に捉えられる、支配的な自己相関パターンと季節周期を示す。
論文 参考訳(メタデータ) (2026-03-16T16:34:26Z) - Entropy-Guided Token Dropout: Training Autoregressive Language Models with Limited Domain Data [89.96277093034547]
本研究では,エントロピー誘導型トークンドロップアウト方式であるEntroDropを導入する。
本稿では,EntroDropが標準正規化ベースラインを一貫して上回り,拡張型マルチエポックトレーニングを通じて堅牢な性能を維持していることを示す。
論文 参考訳(メタデータ) (2025-12-29T12:35:51Z) - Structured Noise Modeling for Enhanced Time-Series Forecasting [0.0]
本研究は、構造的ノイズモデリングによる時間的忠実度を改善する予測ブルーデノエーズフレームワークを導入する。
電気、交通、太陽のデータセットにわたる実験は、マルチ水平精度と安定性において一貫した利得を示している。
このフレームワークは、エネルギー、インフラストラクチャ、その他の時間クリティカルドメインにわたる予測駆動決定サポートに使用される、より信頼性の高いAIシステムに寄与する。
論文 参考訳(メタデータ) (2025-11-24T19:44:46Z) - Deep Generative Continual Learning using Functional LoRA: FunLoRA [12.547444644243543]
共通の戦略は、忘れを和らげるために、生成モデルを自身の合成データで再訓練することである。
低階適応(LoRA)に基づく生成モデルのための新しい、より表現力のある条件付け機構を提案する。
提案手法は,拡散モデルに基づく先行技術結果を上回るパラメータ効率細調整(PEFT)手法である。
論文 参考訳(メタデータ) (2025-10-03T00:18:05Z) - Temporal Knowledge Distillation for Time-Sensitive Financial Services
Applications [7.1795069620810805]
異常検出は、金融犯罪検出詐欺やサイバーセキュリティなどの主要なコンプライアンスやリスク機能に頻繁に使用される。
最新のデータパターンでモデルを再トレーニングすることで、急激な変更に追いつくことは、過去のパターンと現在のパターンのバランスをとる上でのプレッシャーをもたらす。
提案手法は、モデル性能を改善しながら、再トレーニング時間に利点をもたらす。
論文 参考訳(メタデータ) (2023-12-28T03:04:30Z) - Learning Robust Precipitation Forecaster by Temporal Frame Interpolation [65.5045412005064]
本研究では,空間的不一致に対するレジリエンスを示す頑健な降水予測モデルを構築した。
提案手法は,textit4cast'23コンペティションの移行学習リーダーボードにおいて,textit1位を確保したモデルにおいて,予測精度が大幅に向上した。
論文 参考訳(メタデータ) (2023-11-30T08:22:08Z) - OpenSTL: A Comprehensive Benchmark of Spatio-Temporal Predictive
Learning [67.07363529640784]
提案するOpenSTLは,一般的なアプローチを再帰的モデルと再帰的モデルに分類する。
我々は, 合成移動物体軌道, 人間の動き, 運転シーン, 交通流, 天気予報など, さまざまな領域にわたるデータセットの標準評価を行う。
リカレントフリーモデルは、リカレントモデルよりも効率と性能のバランスが良いことがわかった。
論文 参考訳(メタデータ) (2023-06-20T03:02:14Z) - Time Series Continuous Modeling for Imputation and Forecasting with Implicit Neural Representations [15.797295258800638]
本稿では,実世界のデータでしばしば発生する課題に対処するために,時系列計算と予測のための新しいモデリング手法を提案する。
本手法はシリーズの進化力学の連続時間依存モデルに依存する。
メタラーニングアルゴリズムによって駆動される変調機構は、観測されたタイムウインドウを超えて、見えないサンプルや外挿への適応を可能にする。
論文 参考訳(メタデータ) (2023-06-09T13:20:04Z) - Continual Visual Reinforcement Learning with A Life-Long World Model [55.05017177980985]
視覚力学モデリングのための新しい連続学習手法を提案する。
まず,タスク固有の潜在ダイナミクスを学習する長寿命世界モデルを紹介する。
そして,探索・保守的行動学習手法を用いて,過去の課題に対する価値推定問題に対処する。
論文 参考訳(メタデータ) (2023-03-12T05:08:03Z) - Leveraging the structure of dynamical systems for data-driven modeling [111.45324708884813]
トレーニングセットとその構造が長期予測の品質に与える影響を考察する。
トレーニングセットのインフォームドデザインは,システムの不変性と基盤となるアトラクションの構造に基づいて,結果のモデルを大幅に改善することを示す。
論文 参考訳(メタデータ) (2021-12-15T20:09:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。