論文の概要: Characteristic Root Analysis and Regularization for Linear Time Series Forecasting

• arxiv url: http://arxiv.org/abs/2509.23597v1
• Date: Sun, 28 Sep 2025 03:06:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-30 22:32:19.315535
• Title: Characteristic Root Analysis and Regularization for Linear Time Series Forecasting
• Title（参考訳）: 線形時系列予測のための特性根解析と正規化
• Authors: Zheng Wang, Kaixuan Zhang, Wanfang Chen, Xiaonan Lu, Longyuan Li, Tobias Schlagenhauf,
• Abstract要約: 時系列予測は多くの領域において重要な課題である。 近年の研究では、単純な線形モデルの驚くほどの競争性が強調されている。 本稿では時間力学における特性根の役割に焦点を当てる。
• 参考スコア（独自算出の注目度）: 9.254995889539716
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Time series forecasting remains a critical challenge across numerous domains, yet the effectiveness of complex models often varies unpredictably across datasets. Recent studies highlight the surprising competitiveness of simple linear models, suggesting that their robustness and interpretability warrant deeper theoretical investigation. This paper presents a systematic study of linear models for time series forecasting, with a focus on the role of characteristic roots in temporal dynamics. We begin by analyzing the noise-free setting, where we show that characteristic roots govern long-term behavior and explain how design choices such as instance normalization and channel independence affect model capabilities. We then extend our analysis to the noisy regime, revealing that models tend to produce spurious roots. This leads to the identification of a key data-scaling property: mitigating the influence of noise requires disproportionately large training data, highlighting the need for structural regularization. To address these challenges, we propose two complementary strategies for robust root restructuring. The first uses rank reduction techniques, including Reduced-Rank Regression and Direct Weight Rank Reduction, to recover the low-dimensional latent dynamics. The second, a novel adaptive method called Root Purge, encourages the model to learn a noise-suppressing null space during training. Extensive experiments on standard benchmarks demonstrate the effectiveness of both approaches, validating our theoretical insights and achieving state-of-the-art results in several settings. Our findings underscore the potential of integrating classical theories for linear systems with modern learning techniques to build robust, interpretable, and data-efficient forecasting models.
• Abstract（参考訳）: 時系列予測は多くの領域で重要な課題となっているが、複雑なモデルの有効性はデータセット間で予測不可能に変化することが多い。 近年の研究では、単純な線形モデルの驚くほどの競争性が強調されており、その頑健さと解釈性はより深い理論的研究を保証していることが示唆されている。 本稿では,時系列予測のための線形モデルに関する系統的研究を行い,時間力学における特性根の役割に着目した。 ノイズフリー設定の分析から始めると、特徴根が長期的行動を支配することを示し、インスタンスの正規化やチャネル独立化といった設計選択がモデル機能にどのように影響するかを説明する。 そして、我々は分析をノイズレジームにまで拡張し、モデルが突発的な根を生み出す傾向があることを明らかにした。 ノイズの影響を緩和するためには、非常に大きなトレーニングデータが必要であり、構造的正規化の必要性を強調します。 これらの課題に対処するために、堅牢なルート再構成のための2つの相補的戦略を提案する。 第一に、低次元の潜伏力学を回復するために、還元ランク回帰や直立ランク減少などのランク低減技術を使用する。 2つ目は、Root Purgeと呼ばれる新しい適応的手法で、トレーニング中にノイズを抑圧するヌル空間を学ぶようモデルに促す。 標準ベンチマークでの広範囲な実験は、両方のアプローチの有効性を示し、理論的な洞察を検証し、いくつかの設定で最先端の結果を達成する。 本研究は,線形システムの古典理論を現代的な学習手法と統合し,ロバストで解釈可能なデータ効率予測モデルを構築する可能性を明らかにするものである。

関連論文リスト

• Beyond Model Ranking: Predictability-Aligned Evaluation for Time Series Forecasting [18.018179328110048]
  スペクトルコヒーレンスに基づく予測可能性整合診断フレームワークを提案する。 予測可能性ドリフト(predictability drift, 予測可能性ドリフト)の最初の体系的な証拠として, タスクの予測困難度が時間とともに急激に変化することを示す。 複雑なモデルは予測可能性の低いデータより優れているのに対し、線形モデルは予測可能なタスクに非常に効果的である。
  論文  参考訳（メタデータ） (2025-09-27T02:56:06Z)
• In-Context Linear Regression Demystified: Training Dynamics and Mechanistic Interpretability of Multi-Head Softmax Attention [52.159541540613915]
  本研究では,マルチヘッド型ソフトマックスアテンションモデルを用いて,線形データを用いたコンテキスト内学習を行う方法について検討する。 この結果から,学習内容の学習能力は,そのアーキテクチャと基礎となるデータ分布の集約的効果として,訓練されたトランスフォーマーから出現することが明らかとなった。
  論文  参考訳（メタデータ） (2025-03-17T02:00:49Z)
• An Adversarial Learning Approach to Irregular Time-Series Forecasting [0.032771631221674334]
  本稿では,不規則な時系列のニュアンスをよりよく捉えるために,逆成分を深く分析した逆学習フレームワークを提案する。 本研究は、モデルと評価指標を改善するための実践的な洞察を提供し、不規則な時系列予測のドミアンにおける逆学習の適用の先駆者となる。
  論文  参考訳（メタデータ） (2024-11-28T19:28:07Z)
• Zero-shot forecasting of chaotic systems [6.445605125467573]
  多様なドメインからの膨大な時系列データに基づいて事前訓練されたファンデーションモデル。 ゼロショット学習パラダイムがカオスシステムを予測する困難な課題に拡張されるかどうかを評価する。
  論文  参考訳（メタデータ） (2024-09-24T05:56:58Z)
• A PAC-Bayesian Perspective on the Interpolating Information Criterion [54.548058449535155]
  補間系の性能に影響を及ぼす要因を特徴付ける一般モデルのクラスに対して,PAC-Bayes境界がいかに得られるかを示す。 オーバーパラメータ化モデルに対するテスト誤差が、モデルとパラメータの初期化スキームの組み合わせによって課される暗黙の正規化の品質に依存するかの定量化を行う。
  論文  参考訳（メタデータ） (2023-11-13T01:48:08Z)
• Data-driven Preference Learning Methods for Sorting Problems with Multiple Temporal Criteria [17.673512636899076]
  本研究では,時間的基準が存在する場合の複数基準ソート問題に対する新しい選好学習手法を提案する。 スケーラビリティを向上し、学習可能な時間割引要素に対応するため、新しい単調リカレントニューラルネットワーク(mRNN)を導入する。 提案するmRNNは、時間とともに、限界値関数とパーソナライズされた時間割引係数を記述することにより、好みのダイナミクスを記述することができる。
  論文  参考訳（メタデータ） (2023-09-22T05:08:52Z)
• Leveraging the structure of dynamical systems for data-driven modeling [111.45324708884813]
  トレーニングセットとその構造が長期予測の品質に与える影響を考察する。 トレーニングセットのインフォームドデザインは,システムの不変性と基盤となるアトラクションの構造に基づいて,結果のモデルを大幅に改善することを示す。
  論文  参考訳（メタデータ） (2021-12-15T20:09:20Z)
• Stochastically forced ensemble dynamic mode decomposition for forecasting and analysis of near-periodic systems [65.44033635330604]
  本稿では,観測力学を強制線形系としてモデル化した新しい負荷予測手法を提案する。 固有線型力学の利用は、解釈可能性やパーシモニーの観点から、多くの望ましい性質を提供することを示す。 電力グリッドからの負荷データを用いたテストケースの結果が提示される。
  論文  参考訳（メタデータ） (2020-10-08T20:25:52Z)
• Multiplicative noise and heavy tails in stochastic optimization [62.993432503309485]
  経験的最適化は現代の機械学習の中心であるが、その成功における役割はまだ不明である。 分散による離散乗法雑音のパラメータによく現れることを示す。 最新のステップサイズやデータを含む重要な要素について、詳細な分析を行い、いずれも最先端のニューラルネットワークモデルで同様の結果を示す。
  論文  参考訳（メタデータ） (2020-06-11T09:58:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。