論文の概要: Are KANs Effective for Multivariate Time Series Forecasting?
- arxiv url: http://arxiv.org/abs/2408.11306v2
- Date: Tue, 11 Feb 2025 03:38:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-12 18:22:47.629102
- Title: Are KANs Effective for Multivariate Time Series Forecasting?
- Title(参考訳): カンは多変量時系列予測に有効か?
- Authors: Xiao Han, Xinfeng Zhang, Yiling Wu, Zhenduo Zhang, Zhe Wu,
- Abstract要約: Kolmogorov-Arnold Network (KAN) は、不適切な解釈可能性の問題を解決するための新しい視点を提供する。
本稿では,性能,積分性,効率,解釈性の観点から,時系列予測におけるkanの有効性を評価することを目的とする。
我々は,KANをシンボル関数の組み合わせに変換する能力を維持しつつ,優れた性能を実現する多層混合KANネットワーク(MMK)を提案する。
- 参考スコア(独自算出の注目度): 20.483074918879133
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multivariate time series forecasting is a crucial task that predicts the future states based on historical inputs. Related techniques have been developing in parallel with the machine learning community, from early statistical learning methods to current deep learning methods. Despite their significant advancements, existing methods continue to struggle with the challenge of inadequate interpretability. The rise of the Kolmogorov-Arnold Network (KAN) provides a new perspective to solve this challenge, but current work has not yet concluded whether KAN is effective in time series forecasting tasks. In this paper, we aim to evaluate the effectiveness of KANs in time-series forecasting from the perspectives of performance, integrability, efficiency, and interpretability. To this end, we propose the Multi-layer Mixture-of-KAN network (MMK), which achieves excellent performance while retaining KAN's ability to be transformed into a combination of symbolic functions. The core module of MMK is the mixture-of-KAN layer, which uses a mixture-of-experts structure to assign variables to best-matched KAN experts. Then, we explore some useful experimental strategies to deal with the issues in the training stage. Finally, we compare MMK and various baselines on seven datasets. Extensive experimental and visualization results demonstrate that KANs are effective in multivariate time series forecasting. Code is available at: https://github.com/2448845600/EasyTSF.
- Abstract(参考訳): 多変量時系列予測は、過去の入力に基づいて将来の状態を予測するための重要なタスクである。
関連技術は、初期の統計的学習方法から現在のディープラーニング方法まで、機械学習コミュニティと並行して開発されている。
その顕著な進歩にもかかわらず、既存の手法は不適切な解釈可能性への挑戦に苦戦し続けている。
Kolmogorov-Arnold Network(KAN)の台頭は、この課題を解決するための新たな視点を提供するが、現在の研究は、kanが時系列予測タスクに有効かどうかを結論付けていない。
本稿では,性能,積分性,効率,解釈性の観点から,時系列予測におけるkanの有効性を評価することを目的とする。
そこで本研究では,KANをシンボル関数の組み合わせに変換する能力を維持しつつ,優れた性能を実現する多層混合KANネットワーク(MMK)を提案する。
MMKの中核モジュールはKANの混合層であり、最も適合したカンの専門家に変数を割り当てるためにMix of-experts構造を用いる。
そこで,本研究では,トレーニング段階における課題に対処するための有用な実験戦略について検討する。
最後に、7つのデータセット上でMMKと各種ベースラインを比較した。
広範にわたる実験と可視化の結果から,Kansは多変量時系列予測に有効であることが示された。
コードは、https://github.com/2448845600/EasyTSFで入手できる。
関連論文リスト
- KAC: Kolmogorov-Arnold Classifier for Continual Learning [70.29494592027852]
継続的な学習には、モデルを忘れずに連続的なタスクにわたって継続的にトレーニングする必要がある。
既存の手法の多くは線形分類器を利用しており、新しいタスクを学習しながら安定した分類空間を維持するのに苦労している。
Kolmogorov-Arnold Networks (KAN) の単純な連続回帰タスクにおける学習の保存の成功に触発されて、我々はより複雑な連続的な学習シナリオにおける学習の可能性を探究した。
論文 参考訳(メタデータ) (2025-03-27T01:27:14Z) - Tackling Data Heterogeneity in Federated Time Series Forecasting [61.021413959988216]
時系列予測は、エネルギー消費予測、病気の伝染モニタリング、天気予報など、様々な実世界の応用において重要な役割を果たす。
既存のほとんどのメソッドは、分散デバイスから中央クラウドサーバに大量のデータを収集する、集中的なトレーニングパラダイムに依存しています。
本稿では,情報合成データを補助的知識キャリアとして生成することにより,データの均一性に対処する新しいフレームワークであるFed-TRENDを提案する。
論文 参考訳(メタデータ) (2024-11-24T04:56:45Z) - A preliminary study on continual learning in computer vision using Kolmogorov-Arnold Networks [43.70716358136333]
Kolmogorov-Networks (KAN) は基本的に異なる数学的枠組みに基づいている。
Kansは継続的学習シナリオの忘れなど,いくつかの大きな問題に対処している。
コンピュータビジョンにおける連続的な学習課題における感性の評価によって調査を拡大する。
論文 参考訳(メタデータ) (2024-09-20T14:49:21Z) - Kolmogorov-Arnold Networks for Time Series: Bridging Predictive Power and Interpretability [6.4314326272535896]
Kolmogorov-Arnold Networks (KAN)は、最近MITチームが提案した画期的なモデルである。
Kanは時系列内の概念ドリフトを検知し、予測と過去の時間ステップの間の非線形関係を説明するように設計されている。
T-KANは、時系列内の概念ドリフトを検知し、予測と過去の時間ステップの間の非線形関係を説明するように設計されている。
一方,MT-KANは変数間の複雑な関係を効果的に発見・活用することで予測性能を向上させる。
論文 参考訳(メタデータ) (2024-06-04T17:14:31Z) - Chronos: Learning the Language of Time Series [79.38691251254173]
Chronosは事前訓練された確率的時系列モデルのためのフレームワークである。
クロノスモデルでは,様々な領域の時系列データを利用して,未知の予測タスクにおけるゼロショット精度を向上させることができることを示す。
論文 参考訳(メタデータ) (2024-03-12T16:53:54Z) - Koopman Ensembles for Probabilistic Time Series Forecasting [6.699751896019971]
独立に訓練されたモデルのアンサンブルは極めて過信であり、メンバーに高いモデル間分散による予測を明示的に促す訓練基準を用いることで、アンサンブルの不確実性を大幅に改善することを示す。
論文 参考訳(メタデータ) (2024-03-11T14:29:56Z) - Supervised Contrastive Learning based Dual-Mixer Model for Remaining
Useful Life Prediction [3.081898819471624]
Remaining Useful Life (RUL)予測は、現在の予測モーメントからデバイスの完全な障害までの残時間を正確に見積もることを目的としている。
従来のRUL予測手法における時間的特徴と空間的特徴の厳密結合の欠点を克服するため,Dual-Mixerモデルと呼ばれる空間的時間的特徴抽出器を提案する。
提案手法の有効性は,C-MAPSSデータセットに関する他の最新の研究結果との比較により検証した。
論文 参考訳(メタデータ) (2024-01-29T14:38:44Z) - Generative Modeling of Regular and Irregular Time Series Data via Koopman VAEs [50.25683648762602]
モデルの新しい設計に基づく新しい生成フレームワークであるKoopman VAEを紹介する。
クープマン理論に触発され、線形写像を用いて潜在条件事前力学を表現する。
KoVAEは、いくつかの挑戦的な合成および実世界の時系列生成ベンチマークにおいて、最先端のGANおよびVAEメソッドより優れている。
論文 参考訳(メタデータ) (2023-10-04T07:14:43Z) - Contextualizing MLP-Mixers Spatiotemporally for Urban Data Forecast at Scale [54.15522908057831]
本稿では,STTD予測を大規模に行うためのコンピュータ・ミクサーの適応版を提案する。
我々の結果は、この単純な効率の良いソリューションが、いくつかのトラフィックベンチマークでテストした場合、SOTAベースラインに匹敵する可能性があることを驚くほど示している。
本研究は, 実世界のSTTD予測において, 簡便な有効モデルの探索に寄与する。
論文 参考訳(メタデータ) (2023-07-04T05:19:19Z) - Explainable Parallel RCNN with Novel Feature Representation for Time
Series Forecasting [0.0]
時系列予測はデータサイエンスにおける根本的な課題である。
RNNとCNNを組み合わせた並列ディープラーニングフレームワークを開発した。
3つのデータセットに対する大規模な実験により,本手法の有効性が明らかとなった。
論文 参考訳(メタデータ) (2023-05-08T17:20:13Z) - The Capacity and Robustness Trade-off: Revisiting the Channel
Independent Strategy for Multivariate Time Series Forecasting [50.48888534815361]
本稿では、Channel Dependent(CD)戦略でトレーニングされたモデルが、Channel Dependent(CD)戦略でトレーニングされたモデルよりも優れていることを示す。
以上の結果から,CD手法は高いキャパシティを持つが,分散ドリフト時系列を正確に予測する堅牢性に欠けることがわかった。
本稿では,CI戦略を超越した正規化(PRReg)による予測残差法(Predict Residuals with Regularization, PRReg)を提案する。
論文 参考訳(メタデータ) (2023-04-11T13:15:33Z) - Multi-Level Contrastive Learning for Dense Prediction Task [59.591755258395594]
本稿では,高密度予測タスクのための領域レベルの特徴表現を効率よく学習するための,MCL(Multi-Level Contrastive Learning for Dense Prediction Task)を提案する。
本手法は, 局所化, スケールの整合性, 認識の3つの要因に動機付けられている。
提案手法は,様々なデータセットにおける最近の最先端の手法よりも有意なマージンを有する。
論文 参考訳(メタデータ) (2023-04-04T17:59:04Z) - On the Soundness of XAI in Prognostics and Health Management (PHM) [0.0]
本研究は,予測保守のための時系列回帰モデルに適用された多くのXAI手法について,批判的かつ比較的な改訂を行った。
本研究の目的は,時系列分類に比べて研究の少ない時系列回帰におけるXAI手法の探索である。
実験で使用されたモデルは、航空機のエンジンの残留実用寿命を予測するために訓練されたDCNNである。
論文 参考訳(メタデータ) (2023-03-09T13:27:54Z) - Time Series Anomaly Detection by Cumulative Radon Features [32.36217153362305]
本研究は,分布距離測定と組み合わせた場合,浅部特徴が十分であると主張する。
提案手法は,各時系列を高次元的特徴分布としてモデル化する。
累積ラドン特徴量を用いて各時系列をパラメータ化することにより、正規時系列の分布を効率的に効果的にモデル化できることを示す。
論文 参考訳(メタデータ) (2022-02-08T18:58:53Z) - TACTiS: Transformer-Attentional Copulas for Time Series [76.71406465526454]
時間変化量の推定は、医療や金融などの分野における意思決定の基本的な構成要素である。
本稿では,アテンションベースデコーダを用いて関節分布を推定する多元的手法を提案する。
本研究では,本モデルが実世界の複数のデータセットに対して最先端の予測を生成することを示す。
論文 参考訳(メタデータ) (2022-02-07T21:37:29Z) - Cluster-and-Conquer: A Framework For Time-Series Forecasting [94.63501563413725]
本稿では,高次元時系列データを予測するための3段階フレームワークを提案する。
当社のフレームワークは非常に汎用的で,各ステップで時系列予測やクラスタリングが利用可能です。
単純な線形自己回帰モデルでインスタンス化されると、いくつかのベンチマークデータセットで最先端の結果が得られる。
論文 参考訳(メタデータ) (2021-10-26T20:41:19Z) - Temporal Dependencies in Feature Importance for Time Series Predictions [4.082348823209183]
時系列予測設定における特徴重要度を評価するためのフレームワークであるWinITを提案する。
我々は、ソリューションが時間ステップ内の機能の適切な属性をどのように改善するかを示す。
WinIT は FIT の2.47倍の性能を達成しており、実際のMIMIC の致命的課題における他の特徴的重要な手法である。
論文 参考訳(メタデータ) (2021-07-29T20:31:03Z) - Multi-Scale Positive Sample Refinement for Few-Shot Object Detection [61.60255654558682]
Few-shot Object Detection (FSOD) は、ディテクターがトレーニングインスタンスをほとんど持たない未確認のクラスに適応するのに役立つ。
FSODにおけるオブジェクトスケールを拡張化するためのMPSR(Multi-scale Positive Sample Refinement)アプローチを提案する。
MPSRは、オブジェクトピラミッドとして多スケールの正のサンプルを生成し、様々なスケールで予測を洗練させる。
論文 参考訳(メタデータ) (2020-07-18T09:48:29Z) - Multi-Task Learning for Dense Prediction Tasks: A Survey [87.66280582034838]
マルチタスク学習(MTL)技術は、性能、計算、メモリフットプリントに関する有望な結果を示している。
我々は、コンピュータビジョンにおけるMLLのための最先端のディープラーニングアプローチについて、よく理解された視点を提供する。
論文 参考訳(メタデータ) (2020-04-28T09:15:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。