論文の概要: HiPPO-KAN: Efficient KAN Model for Time Series Analysis

• arxiv url: http://arxiv.org/abs/2410.14939v1
• Date: Sat, 19 Oct 2024 02:03:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-22 13:17:40.515054
• Title: HiPPO-KAN: Efficient KAN Model for Time Series Analysis
• Title（参考訳）: HiPPO-KAN:時系列解析のための効率的なカンモデル
• Authors: SangJong Lee, Jin-Kwang Kim, JunHo Kim, TaeHan Kim, James Lee,
• Abstract要約: 我々は、HiPPO理論をコルモゴロフ・アルノルドネットワーク(KAN)フレームワークに導入する。 このHiPPO-KANモデルは、パラメータ数を増大させることなく、長いシーケンスデータに対して優れた性能を達成する。 また,時系列予測モデルでよく発生する遅延問題にも対処する。
• 参考スコア（独自算出の注目度）: 8.282069955797171
• License:
• Abstract: In this study, we introduces a parameter-efficient model that outperforms traditional models in time series forecasting, by integrating High-order Polynomial Projection (HiPPO) theory into the Kolmogorov-Arnold network (KAN) framework. This HiPPO-KAN model achieves superior performance on long sequence data without increasing parameter count. Experimental results demonstrate that HiPPO-KAN maintains a constant parameter count while varying window sizes and prediction horizons, in contrast to KAN, whose parameter count increases linearly with window size. Surprisingly, although the HiPPO-KAN model keeps a constant parameter count as increasing window size, it significantly outperforms KAN model at larger window sizes. These results indicate that HiPPO-KAN offers significant parameter efficiency and scalability advantages for time series forecasting. Additionally, we address the lagging problem commonly encountered in time series forecasting models, where predictions fail to promptly capture sudden changes in the data. We achieve this by modifying the loss function to compute the MSE directly on the coefficient vectors in the HiPPO domain. This adjustment effectively resolves the lagging problem, resulting in predictions that closely follow the actual time series data. By incorporating HiPPO theory into KAN, this study showcases an efficient approach for handling long sequences with improved predictive accuracy, offering practical contributions for applications in large-scale time series data.
• Abstract（参考訳）: 本研究では,高次多項式射影(HiPPO)理論をコルモゴロフ・アルノルドネットワーク(KAN)フレームワークに統合することにより,時系列予測において従来のモデルよりも優れたパラメータ効率モデルを提案する。 このHiPPO-KANモデルは、パラメータ数を増大させることなく、長いシーケンスデータに対して優れた性能を達成する。 実験結果から,HiPPO-KANはウィンドウサイズや予測地平線が変化しても定数パラメータ数を維持できることがわかった。 驚いたことに、HiPPO-KANモデルはウィンドウサイズの増加として定数パラメータ数を保っているが、より大きなウィンドウサイズではkanモデルよりも大幅に優れている。 これらの結果から,HiPPO-KANは時系列予測において重要なパラメータ効率とスケーラビリティの利点をもたらすことが示唆された。 さらに、時系列予測モデルでよく見られる遅延問題に対処し、予測がデータの急激な変化を素早く捉えるのに失敗する。 我々は、損失関数を変更して、HiPPO領域の係数ベクトルを直接 MSE を計算する。 この調整は遅延問題を効果的に解決し、実際の時系列データに密接に従う予測をもたらす。 本研究は,HiPPO理論をKANに組み込むことで,予測精度を向上し,大規模時系列データに適用するための実用的な貢献を提供する。

関連論文リスト

• Parsimony or Capability? Decomposition Delivers Both in Long-term Time Series Forecasting [46.63798583414426]
  時系列予測(LTSF)は時系列分析において重要なフロンティアである。 本研究は, 分析的および実証的な証拠から, 分解が過剰なモデルインフレーションを包含する鍵であることを実証する。 興味深いことに、時系列データの本質的なダイナミクスに分解を合わせることで、提案モデルは既存のベンチマークより優れている。
  論文  参考訳（メタデータ） (2024-01-22T13:15:40Z)
• Counterfactual Explanations for Time Series Forecasting [14.03870816983583]
  本稿では,時系列予測における対実生成の新たな問題を定式化し,ForecastCFと呼ばれるアルゴリズムを提案する。 ForecastCFは、勾配に基づく摂動を元の時系列に適用することで、この問題を解決する。 以上の結果から,ForecastCFは,逆ファクト的妥当性とデータ多様体の近接性の観点から,ベースラインよりも優れていた。
  論文  参考訳（メタデータ） (2023-10-12T08:51:59Z)
• Prediction-Oriented Bayesian Active Learning [51.426960808684655]
  予測情報ゲイン(EPIG)は、パラメータではなく予測空間における情報ゲインを測定する。 EPIGは、さまざまなデータセットやモデルにわたるBALDと比較して、予測パフォーマンスが向上する。
  論文  参考訳（メタデータ） (2023-04-17T10:59:57Z)
• Generative Time Series Forecasting with Diffusion, Denoise, and Disentanglement [51.55157852647306]
  時系列予測は多くのアプリケーションにおいて非常に重要な課題である。 実世界の時系列データが短時間に記録されることが一般的であり、これはディープモデルと限られたノイズのある時系列との間に大きなギャップをもたらす。 本稿では,生成モデルを用いた時系列予測問題に対処し,拡散,雑音,ゆがみを備えた双方向変分自動エンコーダを提案する。
  論文  参考訳（メタデータ） (2023-01-08T12:20:46Z)
• Post-Processing Temporal Action Detection [134.26292288193298]
  時間的行動検出(TAD)法は、通常、入力された可変長のビデオを固定長のスニペット表現シーケンスに変換する際に、前処理のステップを踏む。 この前処理ステップは、ビデオを時間的にダウンサンプリングし、推論の解像度を低減し、元の時間分解における検出性能を阻害する。 モデルの再設計や再学習を伴わない新しいモデル非依存のポストプロセッシング手法を提案する。
  論文  参考訳（メタデータ） (2022-11-27T19:50:37Z)
• Financial Time Series Data Augmentation with Generative Adversarial Networks and Extended Intertemporal Return Plots [2.365537081046599]
  データ拡張作業に最先端の画像ベース生成モデルを適用した。 時系列の新しい画像表現である拡張時空間回帰プロット(XIRP)を導入する。 提案手法は,金融データセットの79%に対して,リターン予測誤差を7%削減できることを示す。
  論文  参考訳（メタデータ） (2022-05-18T13:39:27Z)
• HiPPO: Recurrent Memory with Optimal Polynomial Projections [93.3537706398653]
  本稿では,連続信号と離散時系列をベースに投影してオンライン圧縮するための一般フレームワーク(HiPPO)を提案する。 過去の各時間ステップの重要性を示す尺度が与えられた場合、HiPPOは自然なオンライン関数近似問題に対する最適解を生成する。 このフォーマルなフレームワークは、すべての履歴を記憶するために時間をかけてスケールする新しいメモリ更新メカニズム(HiPPO-LegS)を提供する。
  論文  参考訳（メタデータ） (2020-08-17T23:39:33Z)
• Spatiotemporal Adaptive Neural Network for Long-term Forecasting of Financial Time Series [0.2793095554369281]
  本稿では,ディープニューラルネットワーク(DNN)が時系列予測(TS)の同時予測に利用できるかどうかを検討する。 動的因子グラフ(DFG)を用いて多変量自己回帰モデルを構築する。 ACTMでは、TSモデルの自己回帰順序を時間とともに変化させ、より大きな確率分布をモデル化することができる。
  論文  参考訳（メタデータ） (2020-03-27T00:53:11Z)
• Transformer Hawkes Process [79.16290557505211]
  本稿では,長期的依存関係を捕捉する自己認識機構を利用したTransformer Hawkes Process (THP) モデルを提案する。 THPは、有意なマージンによる可能性と事象予測の精度の両方の観点から、既存のモデルより優れている。 本稿では、THPが関係情報を組み込む際に、複数の点過程を学習する際の予測性能の改善を実現する具体例を示す。
  論文  参考訳（メタデータ） (2020-02-21T13:48:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。