論文の概要: Self-Supervised Learning for Time Series: A Review & Critique of FITS

• arxiv url: http://arxiv.org/abs/2410.18318v1
• Date: Wed, 23 Oct 2024 23:03:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-25 12:51:08.478820
• Title: Self-Supervised Learning for Time Series: A Review & Critique of FITS
• Title（参考訳）: 時系列のためのセルフ・スーパーバイザード・ラーニング:FITSのレビューと批判
• Authors: Andreas Løvendahl Eefsen, Nicholas Erup Larsen, Oliver Glozmann Bork Hansen, Thor Højhus Avenstrup,
• Abstract要約: 最近提案されたモデルFITSは、パラメータ数を大幅に削減した競合性能を主張する。 複雑な周波数領域で1層ニューラルネットワークをトレーニングすることで、これらの結果を再現することができる。 実験の結果,FITSは特に周期パターンや季節パターンの捕集に優れるが,トレンド,非周期的,ランダムな組立行動に苦慮していることがわかった。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: Accurate time series forecasting is a highly valuable endeavour with applications across many industries. Despite recent deep learning advancements, increased model complexity, and larger model sizes, many state-of-the-art models often perform worse or on par with simpler models. One of those cases is a recently proposed model, FITS, claiming competitive performance with significantly reduced parameter counts. By training a one-layer neural network in the complex frequency domain, we are able to replicate these results. Our experiments on a wide range of real-world datasets further reveal that FITS especially excels at capturing periodic and seasonal patterns, but struggles with trending, non-periodic, or random-resembling behavior. With our two novel hybrid approaches, where we attempt to remedy the weaknesses of FITS by combining it with DLinear, we achieve the best results of any known open-source model on multivariate regression and promising results in multiple/linear regression on price datasets, on top of vastly improving upon what FITS achieves as a standalone model.
• Abstract（参考訳）: 正確な時系列予測は、多くの産業にまたがる応用において非常に価値のある試みである。 最近のディープラーニングの進歩、モデルの複雑さの増大、モデルサイズの拡大にもかかわらず、多くの最先端モデルは、しばしばより単純なモデルと同等あるいは同等に機能する。 その1つは最近提案されたモデルFITSであり、パラメータ数を大幅に削減した競合性能を主張する。 複雑な周波数領域で1層ニューラルネットワークをトレーニングすることで、これらの結果を再現することができる。 実世界の幅広いデータセットに対する実験により、FITSは特に周期的、季節的なパターンを捉えるのに優れているが、トレンド、非周期的、ランダムな組立行動に苦慮していることが明らかとなった。 2つの新しいハイブリッドアプローチでは、DLinearと組み合わせることでFITSの弱点を修復し、多変量回帰における既知のオープンソースモデルの最良の結果と、価格データセット上での複数/線形回帰における有望な結果を得ることができ、FITSがスタンドアロンモデルとして達成するものを大幅に改善する。

関連論文リスト

• Recurrent Neural Goodness-of-Fit Test for Time Series [8.22915954499148]
  時系列データは、金融や医療など、さまざまな分野において重要である。 従来の評価基準は、時間的依存関係と潜在的な特徴の高次元性のために不足している。 Recurrent Neural (RENAL) Goodness-of-Fit testは,生成時系列モデルを評価するための新しい,統計的に厳密なフレームワークである。
  論文  参考訳（メタデータ） (2024-10-17T19:32:25Z)
• Recent Trends in Modelling the Continuous Time Series using Deep Learning: A Survey [0.18434042562191813]
  継続的シリーズは、医療、自動車、エネルギー、金融、モノのインターネット(IoT)など、現代のさまざまな分野において不可欠である。 本稿では、時系列の一般的な問題領域について述べ、連続時系列をモデル化する際の課題について概説する。
  論文  参考訳（メタデータ） (2024-09-13T14:19:44Z)
• On Least Square Estimation in Softmax Gating Mixture of Experts [78.3687645289918]
  決定論的MoEモデルに基づく最小二乗推定器(LSE)の性能について検討する。 我々は,多種多様な専門家関数の収束挙動を特徴付けるために,強い識別可能性という条件を確立する。 本研究は,専門家の選択に重要な意味を持つ。
  論文  参考訳（メタデータ） (2024-02-05T12:31:18Z)
• Online Evolutionary Neural Architecture Search for Multivariate Non-Stationary Time Series Forecasting [72.89994745876086]
  本研究は、オンラインニューロ進化に基づくニューラルアーキテクチャサーチ(ONE-NAS)アルゴリズムを提案する。 ONE-NASは、オンライン予測タスクのためにリカレントニューラルネットワーク(RNN)を自動設計し、動的にトレーニングする新しいニューラルネットワーク探索手法である。 その結果、ONE-NASは従来の統計時系列予測法よりも優れていた。
  論文  参考訳（メタデータ） (2023-02-20T22:25:47Z)
• Multi-scale Attention Flow for Probabilistic Time Series Forecasting [68.20798558048678]
  マルチスケールアテンション正規化フロー(MANF)と呼ばれる非自己回帰型ディープラーニングモデルを提案する。 我々のモデルは累積誤差の影響を回避し、時間の複雑さを増大させない。 本モデルは,多くの多変量データセット上での最先端性能を実現する。
  論文  参考訳（メタデータ） (2022-05-16T07:53:42Z)
• Closed-form Continuous-Depth Models [99.40335716948101]
  連続深度ニューラルモデルは高度な数値微分方程式解法に依存している。 我々は,CfCネットワークと呼ばれる,記述が簡単で,少なくとも1桁高速な新しいモデル群を提示する。
  論文  参考訳（メタデータ） (2021-06-25T22:08:51Z)
• Self-Damaging Contrastive Learning [92.34124578823977]
  ラベルのないデータは一般に不均衡であり、長い尾の分布を示す。 本稿では,クラスを知らずに表現学習を自動的にバランスをとるための,自己学習コントラスト学習という原則的枠組みを提案する。 実験の結果,SDCLRは全体としての精度だけでなく,バランス性も著しく向上することがわかった。
  論文  参考訳（メタデータ） (2021-06-06T00:04:49Z)
• Regularizing Generative Adversarial Networks under Limited Data [88.57330330305535]
  本研究は、限られたデータ上で堅牢なGANモデルをトレーニングするための正規化手法を提案する。 正規化損失とLeCam-divergenceと呼ばれるf-divergenceの関連性を示す。
  論文  参考訳（メタデータ） (2021-04-07T17:59:06Z)
• Do We Really Need Deep Learning Models for Time Series Forecasting? [4.2698418800007865]
  時系列予測は、幅広い応用があるため、機械学習において重要なタスクである。 ディープラーニングとマトリックスファクタリゼーションモデルは、より競争力のあるパフォーマンスで同じ問題に取り組むために最近提案されている。 本稿では,これらの高度に複雑なディープラーニングモデルが代替手段がないかどうかを問う。
  論文  参考訳（メタデータ） (2021-01-06T16:18:04Z)
• Global Models for Time Series Forecasting: A Simulation Study [2.580765958706854]
  自動回帰(AR)や季節ARのような単純なデータ生成プロセス(DGP)からカオスロジスティックマップ、自己興奮型閾値自動回帰、マッキーグラス方程式といった複雑なDGPまで、時系列をシミュレートする。 データセットの長さと系列数は、さまざまなシナリオで変化します。 我々はこれらのデータセットに対して,Recurrent Neural Networks (RNN), Feed-Forward Neural Networks, Pooled Regression (PR) Model, Light Gradient Boosting Models (LGBM)などの大域的予測モデルを用いて実験を行った。
  論文  参考訳（メタデータ） (2020-12-23T04:45:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。