論文の概要: KAN4TSF: Are KAN and KAN-based models Effective for Time Series Forecasting?
- arxiv url: http://arxiv.org/abs/2408.11306v1
- Date: Wed, 21 Aug 2024 03:21:52 GMT
- ステータス: 処理完了
- システム内更新日: 2024-08-22 18:38:57.973708
- Title: KAN4TSF: Are KAN and KAN-based models Effective for Time Series Forecasting?
- Title(参考訳): Kan4TSF:kanとkanベースのモデルは時系列予測に有効か?
- Authors: Xiao Han, Xinfeng Zhang, Yiling Wu, Zhenduo Zhang, Zhe Wu,
- Abstract要約: 時系列予測研究にコルモゴロフ・アルノルドネットワーク(KAN)を導入する。
本稿では,時系列予測のためのKAモデルであるReversible Mixture of Kan Expert (RMoK)モデルを提案する。
可視化によって時間的特徴量とデータの周期性の関係を見いだす。
- 参考スコア(独自算出の注目度): 20.483074918879133
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Time series forecasting is a crucial task that predicts the future values of variables based on historical data. Time series forecasting techniques have been developing in parallel with the machine learning community, from early statistical learning methods to current deep learning methods. Although existing methods have made significant progress, they still suffer from two challenges. The mathematical theory of mainstream deep learning-based methods does not establish a clear relation between network sizes and fitting capabilities, and these methods often lack interpretability. To this end, we introduce the Kolmogorov-Arnold Network (KAN) into time series forecasting research, which has better mathematical properties and interpretability. First, we propose the Reversible Mixture of KAN experts (RMoK) model, which is a KAN-based model for time series forecasting. RMoK uses a mixture-of-experts structure to assign variables to KAN experts. Then, we compare performance, integration, and speed between RMoK and various baselines on real-world datasets, and the experimental results show that RMoK achieves the best performance in most cases. And we find the relationship between temporal feature weights and data periodicity through visualization, which roughly explains RMoK's mechanism. Thus, we conclude that KAN and KAN-based models (RMoK) are effective in time series forecasting. Code is available at KAN4TSF: https://github.com/2448845600/KAN4TSF.
- Abstract(参考訳): 時系列予測は、過去のデータに基づいて変数の将来値を予測する重要なタスクである。
時系列予測技術は、初期の統計的学習方法から現在のディープラーニング方法まで、機械学習コミュニティと並行して開発されている。
既存の手法は大きな進歩を遂げているが、それでも2つの課題に悩まされている。
主流のディープラーニングに基づく手法の数学的理論は、ネットワークサイズと適合性の間に明確な関係を定めておらず、これらの手法は解釈可能性に欠けることが多い。
この目的のために,KAN(Kolmogorov-Arnold Network)を時系列予測研究に導入する。
まず,時系列予測のためのKAモデルであるReversible Mixture of Kan Expert (RMoK)モデルを提案する。
RMoKは、Kanの専門家に変数を割り当てるために、Mix-of-experts構造を使用する。
次に、実世界のデータセット上でRMoKと各種ベースラインのパフォーマンス、統合、速度を比較し、実験結果から、RMoKがほとんどのケースで最高のパフォーマンスを達成することを示す。
そして、可視化によって時間的特徴量とデータの周期性の関係を見いだし、RMoKのメカニズムを概説する。
そこで我々は,kan とkan-based model (RMoK) が時系列予測に有効であることが結論された。
Kan4TSFのコードは、https://github.com/2448845600/KAN4TSFで入手できる。
関連論文リスト
- Tackling Data Heterogeneity in Federated Time Series Forecasting [61.021413959988216]
時系列予測は、エネルギー消費予測、病気の伝染モニタリング、天気予報など、様々な実世界の応用において重要な役割を果たす。
既存のほとんどのメソッドは、分散デバイスから中央クラウドサーバに大量のデータを収集する、集中的なトレーニングパラダイムに依存しています。
本稿では,情報合成データを補助的知識キャリアとして生成することにより,データの均一性に対処する新しいフレームワークであるFed-TRENDを提案する。
論文 参考訳(メタデータ) (2024-11-24T04:56:45Z) - Kolmogorov-Arnold Networks for Time Series: Bridging Predictive Power and Interpretability [6.4314326272535896]
Kolmogorov-Arnold Networks (KAN)は、最近MITチームが提案した画期的なモデルである。
Kanは時系列内の概念ドリフトを検知し、予測と過去の時間ステップの間の非線形関係を説明するように設計されている。
T-KANは、時系列内の概念ドリフトを検知し、予測と過去の時間ステップの間の非線形関係を説明するように設計されている。
一方,MT-KANは変数間の複雑な関係を効果的に発見・活用することで予測性能を向上させる。
論文 参考訳(メタデータ) (2024-06-04T17:14:31Z) - Chronos: Learning the Language of Time Series [79.38691251254173]
Chronosは事前訓練された確率的時系列モデルのためのフレームワークである。
クロノスモデルでは,様々な領域の時系列データを利用して,未知の予測タスクにおけるゼロショット精度を向上させることができることを示す。
論文 参考訳(メタデータ) (2024-03-12T16:53:54Z) - Koopman Ensembles for Probabilistic Time Series Forecasting [6.699751896019971]
独立に訓練されたモデルのアンサンブルは極めて過信であり、メンバーに高いモデル間分散による予測を明示的に促す訓練基準を用いることで、アンサンブルの不確実性を大幅に改善することを示す。
論文 参考訳(メタデータ) (2024-03-11T14:29:56Z) - Generative Modeling of Regular and Irregular Time Series Data via Koopman VAEs [50.25683648762602]
モデルの新しい設計に基づく新しい生成フレームワークであるKoopman VAEを紹介する。
クープマン理論に触発され、線形写像を用いて潜在条件事前力学を表現する。
KoVAEは、いくつかの挑戦的な合成および実世界の時系列生成ベンチマークにおいて、最先端のGANおよびVAEメソッドより優れている。
論文 参考訳(メタデータ) (2023-10-04T07:14:43Z) - Explainable Parallel RCNN with Novel Feature Representation for Time
Series Forecasting [0.0]
時系列予測はデータサイエンスにおける根本的な課題である。
RNNとCNNを組み合わせた並列ディープラーニングフレームワークを開発した。
3つのデータセットに対する大規模な実験により,本手法の有効性が明らかとなった。
論文 参考訳(メタデータ) (2023-05-08T17:20:13Z) - The Capacity and Robustness Trade-off: Revisiting the Channel
Independent Strategy for Multivariate Time Series Forecasting [50.48888534815361]
本稿では、Channel Dependent(CD)戦略でトレーニングされたモデルが、Channel Dependent(CD)戦略でトレーニングされたモデルよりも優れていることを示す。
以上の結果から,CD手法は高いキャパシティを持つが,分散ドリフト時系列を正確に予測する堅牢性に欠けることがわかった。
本稿では,CI戦略を超越した正規化(PRReg)による予測残差法(Predict Residuals with Regularization, PRReg)を提案する。
論文 参考訳(メタデータ) (2023-04-11T13:15:33Z) - Time Series Anomaly Detection by Cumulative Radon Features [32.36217153362305]
本研究は,分布距離測定と組み合わせた場合,浅部特徴が十分であると主張する。
提案手法は,各時系列を高次元的特徴分布としてモデル化する。
累積ラドン特徴量を用いて各時系列をパラメータ化することにより、正規時系列の分布を効率的に効果的にモデル化できることを示す。
論文 参考訳(メタデータ) (2022-02-08T18:58:53Z) - TACTiS: Transformer-Attentional Copulas for Time Series [76.71406465526454]
時間変化量の推定は、医療や金融などの分野における意思決定の基本的な構成要素である。
本稿では,アテンションベースデコーダを用いて関節分布を推定する多元的手法を提案する。
本研究では,本モデルが実世界の複数のデータセットに対して最先端の予測を生成することを示す。
論文 参考訳(メタデータ) (2022-02-07T21:37:29Z) - Cluster-and-Conquer: A Framework For Time-Series Forecasting [94.63501563413725]
本稿では,高次元時系列データを予測するための3段階フレームワークを提案する。
当社のフレームワークは非常に汎用的で,各ステップで時系列予測やクラスタリングが利用可能です。
単純な線形自己回帰モデルでインスタンス化されると、いくつかのベンチマークデータセットで最先端の結果が得られる。
論文 参考訳(メタデータ) (2021-10-26T20:41:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。