論文の概要: Are Data Embeddings effective in time series forecasting?

• arxiv url: http://arxiv.org/abs/2505.20716v1
• Date: Tue, 27 May 2025 04:51:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-28 17:05:58.411079
• Title: Are Data Embeddings effective in time series forecasting?
• Title（参考訳）: データ埋め込みは時系列予測に有効か?
• Authors: Reza Nematirad, Anil Pahwa, Balasubramaniam Natarajan,
• Abstract要約: 時系列予測は多くの現実世界のアプリケーションにおいて重要な役割を果たす。 ほとんどの最先端モデルでは、標準エラーメトリクスの数千分の1という、限界的な改善しか報告していない。 多くの最先端モデルからデータ埋め込み層を除去しても予測性能は低下しないことがわかった。
• 参考スコア（独自算出の注目度）: 0.6554326244334868
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Time series forecasting plays a crucial role in many real-world applications, and numerous complex forecasting models have been proposed in recent years. Despite their architectural innovations, most state-of-the-art models report only marginal improvements -- typically just a few thousandths in standard error metrics. These models often incorporate complex data embedding layers to transform raw inputs into higher-dimensional representations to enhance accuracy. But are data embedding techniques actually effective in time series forecasting? Through extensive ablation studies across fifteen state-of-the-art models and four benchmark datasets, we find that removing data embedding layers from many state-of-the-art models does not degrade forecasting performance. In many cases, it improves both accuracy and computational efficiency. The gains from removing embedding layers often exceed the performance differences typically reported between competing models. Code available at: https://github.com/neuripsdataembedidng/DataEmbedding
• Abstract（参考訳）: 時系列予測は多くの実世界のアプリケーションにおいて重要な役割を担い、近年では複雑な予測モデルが数多く提案されている。 アーキテクチャの革新にもかかわらず、ほとんどの最先端モデルは限界的な改善しか報告していない。 これらのモデルは、しばしば複雑なデータ埋め込み層を組み込んで生の入力を高次元の表現に変換し、精度を高める。 しかし、データ埋め込み技術は時系列予測に実際に有効か? 15の最先端モデルと4つのベンチマークデータセットにわたる広範囲なアブレーション研究により、多くの最先端モデルからデータ埋め込み層を取り除くことは予測性能を低下させないことが判明した。 多くの場合、精度と計算効率の両方を改善する。 埋め込みレイヤを削除することで得られる利益は、しばしば競合するモデル間で報告されるパフォーマンスの違いを上回る。 https://github.com/neuripsdataembedidng/DataEmbedding

関連論文リスト

• Enhancing Edge Detection by Texture Handling Architecture and Noiseless Training Data [0.0]
  画像エッジ検出(ED)はコンピュータビジョンの基本課題である。 本稿では,CSDB(Cascaded Skipping Density Blocks)を取り入れた新しいEDモデルを提案する。 第2に、トレーニング中のノイズレスアノテーションの統合を可能にする新しいデータ拡張戦略を導入する。
  論文  参考訳（メタデータ） (2024-07-29T13:24:55Z)
• Learning Defect Prediction from Unrealistic Data [57.53586547895278]
  事前訓練されたコードのモデルは、コード理解と生成タスクに人気がある。 このようなモデルは大きい傾向があり、訓練データの総量を必要とする。 人工的に注入されたバグのある関数など、はるかに大きくてもより現実的なデータセットを持つモデルをトレーニングすることが一般的になった。 このようなデータで訓練されたモデルは、実際のプログラムでは性能が劣りながら、同様のデータでのみうまく機能する傾向にある。
  論文  参考訳（メタデータ） (2023-11-02T01:51:43Z)
• Non-Invasive Fairness in Learning through the Lens of Data Drift [88.37640805363317]
  データや学習アルゴリズムを変更することなく、機械学習モデルの公平性を向上する方法を示す。 異なる集団間の傾向のばらつきと、学習モデルと少数民族間の連続的な傾向は、データドリフトと類似している。 このドリフトを解決するための2つの戦略(モデル分割とリウィーディング)を探索し、基礎となるデータに対するモデル全体の適合性を改善することを目的としている。
  論文  参考訳（メタデータ） (2023-03-30T17:30:42Z)
• Churn Reduction via Distillation [54.5952282395487]
  本研究は, 基礎モデルを教師として用いた蒸留によるトレーニングと, 予測的チャーンに対する明示的な制約によるトレーニングとの等価性を示す。 次に, 蒸留が近年の多くのベースラインに対する低チャーン訓練に有効であることを示す。
  論文  参考訳（メタデータ） (2021-06-04T18:03:31Z)
• Boosted Embeddings for Time Series Forecasting [0.6042845803090501]
  新たな時系列予測モデルであるDeepGBを提案する。 我々は,弱い学習者が反復よりも漸進的に重みがみられるdnnである勾配ブースティングの変種を定式化し,実装する。 本モデルが実世界センサーデータと公開データセットを用いて既存の同等の最新モデルを上回ることを実証した。
  論文  参考訳（メタデータ） (2021-04-10T14:38:11Z)
• Do We Really Need Deep Learning Models for Time Series Forecasting? [4.2698418800007865]
  時系列予測は、幅広い応用があるため、機械学習において重要なタスクである。 ディープラーニングとマトリックスファクタリゼーションモデルは、より競争力のあるパフォーマンスで同じ問題に取り組むために最近提案されている。 本稿では,これらの高度に複雑なディープラーニングモデルが代替手段がないかどうかを問う。
  論文  参考訳（メタデータ） (2021-01-06T16:18:04Z)
• Evaluating Prediction-Time Batch Normalization for Robustness under Covariate Shift [81.74795324629712]
  我々は予測時間バッチ正規化と呼び、共変量シフト時のモデル精度とキャリブレーションを大幅に改善する。 予測時間バッチ正規化は、既存の最先端アプローチに相補的な利点をもたらし、ロバスト性を向上させることを示します。 この手法は、事前トレーニングと併用して使用すると、さまざまな結果が得られるが、より自然なタイプのデータセットシフトでは、パフォーマンスが良くないようだ。
  論文  参考訳（メタデータ） (2020-06-19T05:08:43Z)
• The Effectiveness of Discretization in Forecasting: An Empirical Study on Neural Time Series Models [15.281725756608981]
  ニューラル予測アーキテクチャの予測性能に及ぼすデータ入力および出力変換の影響について検討する。 バイナリ化は実値入力の正規化に比べてほぼ常に性能が向上することがわかった。
  論文  参考訳（メタデータ） (2020-05-20T15:09:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。