論文の概要: LiNo: Advancing Recursive Residual Decomposition of Linear and Nonlinear Patterns for Robust Time Series Forecasting

• arxiv url: http://arxiv.org/abs/2410.17159v1
• Date: Tue, 22 Oct 2024 16:33:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-23 14:27:57.950396
• Title: LiNo: Advancing Recursive Residual Decomposition of Linear and Nonlinear Patterns for Robust Time Series Forecasting
• Title（参考訳）: LiNo:ロバスト時系列予測のための線形および非線形パターンの再帰的残差分解の促進
• Authors: Guoqi Yu, Yaoming Li, Xiaoyu Guo, Dayu Wang, Zirui Liu, Shujun Wang, Tong Yang,
• Abstract要約: 近年の深層時系列予測モデルでは, 季節分解とトレンド分解を利用して, 絡み合った成分を分離することが困難である。 線形パターンと非線形パターンの両方を明示的に抽出することにより再帰的残留分解を革新する。 我々は、一般的な学習可能な自己回帰モデルに対する現在の単純な線形パターン抽出器を開発し、すべての重要な非線形パターンを扱える新しいNoブロックを設計する。
• 参考スコア（独自算出の注目度）: 13.864396476728047
• License:
• Abstract: Forecasting models are pivotal in a data-driven world with vast volumes of time series data that appear as a compound of vast Linear and Nonlinear patterns. Recent deep time series forecasting models struggle to utilize seasonal and trend decomposition to separate the entangled components. Such a strategy only explicitly extracts simple linear patterns like trends, leaving the other linear modes and vast unexplored nonlinear patterns to the residual. Their flawed linear and nonlinear feature extraction models and shallow-level decomposition limit their adaptation to the diverse patterns present in real-world scenarios. Given this, we innovate Recursive Residual Decomposition by introducing explicit extraction of both linear and nonlinear patterns. This deeper-level decomposition framework, which is named LiNo, captures linear patterns using a Li block which can be a moving average kernel, and models nonlinear patterns using a No block which can be a Transformer encoder. The extraction of these two patterns is performed alternatively and recursively. To achieve the full potential of LiNo, we develop the current simple linear pattern extractor to a general learnable autoregressive model, and design a novel No block that can handle all essential nonlinear patterns. Remarkably, the proposed LiNo achieves state-of-the-art on thirteen real-world benchmarks under univariate and multivariate forecasting scenarios. Experiments show that current forecasting models can deliver more robust and precise results through this advanced Recursive Residual Decomposition. We hope this work could offer insight into designing more effective forecasting models. Code is available at this Repository: https://github.com/Levi-Ackman/LiNo.
• Abstract（参考訳）: 予測モデルは、巨大な線形パターンと非線形パターンの複合体として現れる膨大な時系列データを持つデータ駆動の世界において重要なものである。 近年の深層時系列予測モデルでは, 季節分解とトレンド分解を利用して, 絡み合った成分を分離することが困難である。 このような戦略は、トレンドのような単純な線形パターンのみを明示的に抽出し、他の線形モードと広大な未探索の非線形パターンを残らず残す。 それらの欠陥のある線形および非線形特徴抽出モデルと浅層分解は、実世界のシナリオに存在する多様なパターンへの適応を制限する。 これを踏まえ、線形パターンと非線形パターンの両方の明示的な抽出を導入することにより、再帰的残留分解を革新する。 この深いレベルの分解フレームワークはLiNoと呼ばれ、移動平均カーネルであるLiブロックを用いて線形パターンをキャプチャし、トランスフォーマーエンコーダであるNoブロックを用いて非線形パターンをモデル化する。 これら2つのパターンの抽出は、代わりに再帰的に行われる。 LiNoの潜在能力を最大限に発揮するために、一般学習可能な自己回帰モデルに対する現在の単純な線形パターン抽出器を開発し、全ての重要な非線形パターンを扱える新しいNoブロックを設計する。 注目すべきことに、提案されたLiNoは、一変量および多変量予測シナリオの下で、13の実世界のベンチマークで最先端を達成する。 実験により、現在の予測モデルは、この先進的な再帰的残留分解によってより堅牢で正確な結果が得られることが示された。 この研究によって、より効果的な予測モデルの設計に関する洞察が得られればと思っています。 コードは、このリポジトリで入手できる。

関連論文リスト

• Scaling and renormalization in high-dimensional regression [72.59731158970894]
  本稿では,様々な高次元リッジ回帰モデルの訓練および一般化性能の簡潔な導出について述べる。 本稿では,物理と深層学習の背景を持つ読者を対象に,これらのトピックに関する最近の研究成果の紹介とレビューを行う。
  論文  参考訳（メタデータ） (2024-05-01T15:59:00Z)
• An Analysis of Linear Time Series Forecasting Models [0.0]
  時系列予測のための線形モデルの一般的な変種は、標準の非制約線形回帰と等価であり、機能的に区別できない。 検査対象のモデルがほぼ同じ解を学習していることを示す実験的な証拠を提示し, 最終的に, より単純なクローズドフォームソリューションが, テスト設定の72%にまたがる優れた予測器であることを実証した。
  論文  参考訳（メタデータ） (2024-03-21T17:42:45Z)
• Mixture-of-Linear-Experts for Long-term Time Series Forecasting [13.818468255379969]
  線形中心モデルに対するMixture-of-Expertsスタイルの拡張を提案する。 単一のモデルをトレーニングする代わりに、MoLEは複数の線形中心モデルとルータモデルを訓練する。
  論文  参考訳（メタデータ） (2023-12-11T19:05:02Z)
• Bayesian Inference with Nonlinear Generative Models: Comments on Secure Learning [29.818395770651865]
  この研究は非線形生成モデルとその秘密ポテンシャルに注意を向けることを目的としている。 逆確率問題における正規化クロスエントロピーを導出するためにレプリカ法を導出する。 通信路の秘密化を実現するセキュアな符号化方式を提案する。
  論文  参考訳（メタデータ） (2022-01-19T08:29:53Z)
• Time varying regression with hidden linear dynamics [74.9914602730208]
  線形力学系に従って未知のパラメータが進化することを前提とした時間変化線形回帰モデルを再検討する。 反対に、基礎となる力学が安定である場合、このモデルのパラメータは2つの通常の最小二乗推定と組み合わせることで、データから推定できることが示される。
  論文  参考訳（メタデータ） (2021-12-29T23:37:06Z)
• Sample-Efficient Reinforcement Learning Is Feasible for Linearly Realizable MDPs with Limited Revisiting [60.98700344526674]
  線形関数表現のような低複雑度モデルがサンプル効率のよい強化学習を可能にする上で重要な役割を果たしている。 本稿では,オンライン/探索的な方法でサンプルを描画するが,制御不能な方法で以前の状態をバックトラックし,再訪することができる新しいサンプリングプロトコルについて検討する。 この設定に合わせたアルゴリズムを開発し、特徴次元、地平線、逆の準最適ギャップと実際にスケールするサンプル複雑性を実現するが、状態/作用空間のサイズではない。
  論文  参考訳（メタデータ） (2021-05-17T17:22:07Z)
• Bilinear Classes: A Structural Framework for Provable Generalization in RL [119.42509700822484]
  Bilinear Classesは強化学習の一般化を可能にする新しい構造フレームワークである。 このフレームワークは、サンプルの複雑さが達成可能な、ほとんどすべての既存のモデルを取り込んでいる。 我々の主な成果は、双線形クラスのためのサンプル複雑性を持つRLアルゴリズムである。
  論文  参考訳（メタデータ） (2021-03-19T16:34:20Z)
• Hessian Eigenspectra of More Realistic Nonlinear Models [73.31363313577941]
  私たちは、非線形モデルの広いファミリーのためのヘッセン固有スペクトルの言語的特徴付けを行います。 我々の分析は、より複雑な機械学習モデルで観察される多くの顕著な特徴の起源を特定するために一歩前進する。
  論文  参考訳（メタデータ） (2021-03-02T06:59:52Z)
• Provable Model-based Nonlinear Bandit and Reinforcement Learning: Shelve Optimism, Embrace Virtual Curvature [61.22680308681648]
  決定論的報酬を有する1層ニューラルネットバンディットにおいても,グローバル収束は統計的に難解であることを示す。 非線形バンディットとRLの両方に対して,オンラインモデル学習者による仮想アセンジ(Virtual Ascent with Online Model Learner)というモデルベースアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-02-08T12:41:56Z)
• Latent variable modeling with random features [7.856578780790166]
  我々は非ガウス的データ可能性に容易に対応できる非線形次元減少モデルのファミリーを開発する。 我々の一般化されたRFLVMは、他の最先端の次元還元法に匹敵する結果が得られる。
  論文  参考訳（メタデータ） (2020-06-19T14:12:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。