論文の概要: KAN4TSF: Are KAN and KAN-based models Effective for Time Series Forecasting?

• arxiv url: http://arxiv.org/abs/2408.11306v1
• Date: Wed, 21 Aug 2024 03:21:52 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-22 18:38:57.973708
• Title: KAN4TSF: Are KAN and KAN-based models Effective for Time Series Forecasting?
• Title（参考訳）: Kan4TSF:kanとkanベースのモデルは時系列予測に有効か?
• Authors: Xiao Han, Xinfeng Zhang, Yiling Wu, Zhenduo Zhang, Zhe Wu,
• Abstract要約: 時系列予測研究にコルモゴロフ・アルノルドネットワーク(KAN)を導入する。 本稿では,時系列予測のためのKAモデルであるReversible Mixture of Kan Expert (RMoK)モデルを提案する。 可視化によって時間的特徴量とデータの周期性の関係を見いだす。
• 参考スコア（独自算出の注目度）: 20.483074918879133
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Time series forecasting is a crucial task that predicts the future values of variables based on historical data. Time series forecasting techniques have been developing in parallel with the machine learning community, from early statistical learning methods to current deep learning methods. Although existing methods have made significant progress, they still suffer from two challenges. The mathematical theory of mainstream deep learning-based methods does not establish a clear relation between network sizes and fitting capabilities, and these methods often lack interpretability. To this end, we introduce the Kolmogorov-Arnold Network (KAN) into time series forecasting research, which has better mathematical properties and interpretability. First, we propose the Reversible Mixture of KAN experts (RMoK) model, which is a KAN-based model for time series forecasting. RMoK uses a mixture-of-experts structure to assign variables to KAN experts. Then, we compare performance, integration, and speed between RMoK and various baselines on real-world datasets, and the experimental results show that RMoK achieves the best performance in most cases. And we find the relationship between temporal feature weights and data periodicity through visualization, which roughly explains RMoK's mechanism. Thus, we conclude that KAN and KAN-based models (RMoK) are effective in time series forecasting. Code is available at KAN4TSF: https://github.com/2448845600/KAN4TSF.
• Abstract（参考訳）: 時系列予測は、過去のデータに基づいて変数の将来値を予測する重要なタスクである。 時系列予測技術は、初期の統計的学習方法から現在のディープラーニング方法まで、機械学習コミュニティと並行して開発されている。 既存の手法は大きな進歩を遂げているが、それでも2つの課題に悩まされている。 主流のディープラーニングに基づく手法の数学的理論は、ネットワークサイズと適合性の間に明確な関係を定めておらず、これらの手法は解釈可能性に欠けることが多い。 この目的のために,KAN(Kolmogorov-Arnold Network)を時系列予測研究に導入する。 まず,時系列予測のためのKAモデルであるReversible Mixture of Kan Expert (RMoK)モデルを提案する。 RMoKは、Kanの専門家に変数を割り当てるために、Mix-of-experts構造を使用する。 次に、実世界のデータセット上でRMoKと各種ベースラインのパフォーマンス、統合、速度を比較し、実験結果から、RMoKがほとんどのケースで最高のパフォーマンスを達成することを示す。 そして、可視化によって時間的特徴量とデータの周期性の関係を見いだし、RMoKのメカニズムを概説する。 そこで我々は,kan とkan-based model (RMoK) が時系列予測に有効であることが結論された。 Kan4TSFのコードは、https://github.com/2448845600/KAN4TSFで入手できる。

関連論文リスト

• A preliminary study on continual learning in computer vision using Kolmogorov-Arnold Networks [43.70716358136333]
  Kolmogorov-Networks (KAN) は基本的に異なる数学的枠組みに基づいている。 Kansは継続的学習シナリオの忘れなど,いくつかの大きな問題に対処している。 コンピュータビジョンにおける連続的な学習課題における感性の評価によって調査を拡大する。
  論文  参考訳（メタデータ） (2024-09-20T14:49:21Z)
• Kolmogorov-Arnold Networks for Time Series: Bridging Predictive Power and Interpretability [6.4314326272535896]
  Kolmogorov-Arnold Networks (KAN)は、最近MITチームが提案した画期的なモデルである。 Kanは時系列内の概念ドリフトを検知し、予測と過去の時間ステップの間の非線形関係を説明するように設計されている。 T-KANは、時系列内の概念ドリフトを検知し、予測と過去の時間ステップの間の非線形関係を説明するように設計されている。 一方,MT-KANは変数間の複雑な関係を効果的に発見・活用することで予測性能を向上させる。
  論文  参考訳（メタデータ） (2024-06-04T17:14:31Z)
• Supervised Contrastive Learning based Dual-Mixer Model for Remaining Useful Life Prediction [3.081898819471624]
  Remaining Useful Life (RUL)予測は、現在の予測モーメントからデバイスの完全な障害までの残時間を正確に見積もることを目的としている。 従来のRUL予測手法における時間的特徴と空間的特徴の厳密結合の欠点を克服するため,Dual-Mixerモデルと呼ばれる空間的時間的特徴抽出器を提案する。 提案手法の有効性は,C-MAPSSデータセットに関する他の最新の研究結果との比較により検証した。
  論文  参考訳（メタデータ） (2024-01-29T14:38:44Z)
• Contextualizing MLP-Mixers Spatiotemporally for Urban Data Forecast at Scale [54.15522908057831]
  本稿では,STTD予測を大規模に行うためのコンピュータ・ミクサーの適応版を提案する。 我々の結果は、この単純な効率の良いソリューションが、いくつかのトラフィックベンチマークでテストした場合、SOTAベースラインに匹敵する可能性があることを驚くほど示している。 本研究は, 実世界のSTTD予測において, 簡便な有効モデルの探索に寄与する。
  論文  参考訳（メタデータ） (2023-07-04T05:19:19Z)
• The Capacity and Robustness Trade-off: Revisiting the Channel Independent Strategy for Multivariate Time Series Forecasting [50.48888534815361]
  本稿では、Channel Dependent(CD)戦略でトレーニングされたモデルが、Channel Dependent(CD)戦略でトレーニングされたモデルよりも優れていることを示す。 以上の結果から,CD手法は高いキャパシティを持つが,分散ドリフト時系列を正確に予測する堅牢性に欠けることがわかった。 本稿では,CI戦略を超越した正規化(PRReg)による予測残差法(Predict Residuals with Regularization, PRReg)を提案する。
  論文  参考訳（メタデータ） (2023-04-11T13:15:33Z)
• Multi-Level Contrastive Learning for Dense Prediction Task [59.591755258395594]
  本稿では,高密度予測タスクのための領域レベルの特徴表現を効率よく学習するための,MCL(Multi-Level Contrastive Learning for Dense Prediction Task)を提案する。 本手法は, 局所化, スケールの整合性, 認識の3つの要因に動機付けられている。 提案手法は,様々なデータセットにおける最近の最先端の手法よりも有意なマージンを有する。
  論文  参考訳（メタデータ） (2023-04-04T17:59:04Z)
• On the Soundness of XAI in Prognostics and Health Management (PHM) [0.0]
  本研究は,予測保守のための時系列回帰モデルに適用された多くのXAI手法について,批判的かつ比較的な改訂を行った。 本研究の目的は,時系列分類に比べて研究の少ない時系列回帰におけるXAI手法の探索である。 実験で使用されたモデルは、航空機のエンジンの残留実用寿命を予測するために訓練されたDCNNである。
  論文  参考訳（メタデータ） (2023-03-09T13:27:54Z)
• Learning with MISELBO: The Mixture Cookbook [62.75516608080322]
  本稿では,VampPriorとPixelCNNデコーダネットワークを用いて,フローベース階層型変分オートエンコーダ(VAE)の正規化のための変分近似を初めて提案する。 我々は、この協調行動について、VIと適応的重要度サンプリングの新たな関係を描いて説明する。 我々は、MNISTおよびFashionMNISTデータセット上の負のログ類似度の観点から、VAEアーキテクチャの最先端結果を得る。
  論文  参考訳（メタデータ） (2022-09-30T15:01:35Z)
• Temporal Dependencies in Feature Importance for Time Series Predictions [4.082348823209183]
  時系列予測設定における特徴重要度を評価するためのフレームワークであるWinITを提案する。 我々は、ソリューションが時間ステップ内の機能の適切な属性をどのように改善するかを示す。 WinIT は FIT の2.47倍の性能を達成しており、実際のMIMIC の致命的課題における他の特徴的重要な手法である。
  論文  参考訳（メタデータ） (2021-07-29T20:31:03Z)
• Multi-Scale Positive Sample Refinement for Few-Shot Object Detection [61.60255654558682]
  Few-shot Object Detection (FSOD) は、ディテクターがトレーニングインスタンスをほとんど持たない未確認のクラスに適応するのに役立つ。 FSODにおけるオブジェクトスケールを拡張化するためのMPSR(Multi-scale Positive Sample Refinement)アプローチを提案する。 MPSRは、オブジェクトピラミッドとして多スケールの正のサンプルを生成し、様々なスケールで予測を洗練させる。
  論文  参考訳（メタデータ） (2020-07-18T09:48:29Z)
• Multi-Task Learning for Dense Prediction Tasks: A Survey [87.66280582034838]
  マルチタスク学習(MTL)技術は、性能、計算、メモリフットプリントに関する有望な結果を示している。 我々は、コンピュータビジョンにおけるMLLのための最先端のディープラーニングアプローチについて、よく理解された視点を提供する。
  論文  参考訳（メタデータ） (2020-04-28T09:15:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。