論文の概要: Retrieval Mechanisms Surpass Long-Context Scaling in Time Series Forecasting

• arxiv url: http://arxiv.org/abs/2605.08217v1
• Date: Wed, 06 May 2026 12:15:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-12 23:28:49.469926
• Title: Retrieval Mechanisms Surpass Long-Context Scaling in Time Series Forecasting
• Title（参考訳）: 時系列予測における長期スケーリングを超越した検索機構
• Abstract要約: Time Series Foundation Models (TSFM) は、自然言語処理から長いコンテキストパラダイムを借用している。 ドメインでは、遠方の歴史は信号ではなく単に高周波ノイズであることが多い。 この作業は、連続したコンテキストアーキテクチャの実行によって、この前提が実際に成り立つかどうかをテストする。
• 参考スコア（独自算出の注目度）: 7.107287309294005
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Time Series Foundation Models (TSFMs) have borrowed the long context paradigm from natural language processing under the premise that feeding more history into the model improves forecast quality. But in stochastic domains, distant history is often just high-frequency noise, not signal. Hence, the proposed work tests whether this premise actually holds by running continuous context architectures (PatchTST included) through the ETTh1 benchmark. The obtained results contradict the premise: an inverse scaling law shows up clearly, with forecasting error rising as context gets longer. A 3,000-step window causes performance to drop by over 68%, evidence that attention mechanisms are poor at ignoring irrelevant historical volatility. Retrieval-Augmented Forecasting (RAFT) is evaluated as an alternative. RAFT achieves a mean squared error (MSE) of 0.379 with a fixed 720-step window and selective retrieval, outperforming both long-context configurations and zero-shot foundation models (Chronos, Moirai) despite requiring far less computation. In addition, the retrieval step injects only the most relevant historical segments as dynamic exogenous variables, which gives the model a context-informed inductive bias it cannot build on its own from raw sequences. Therefore, foundation models going forward need to shift architecturally toward selective retrieval.
• Abstract（参考訳）: 時系列ファウンデーションモデル(TSFM)は、モデルにより多くの履歴を投入することで予測品質が向上するという前提のもと、自然言語処理から長いコンテキストパラダイムを借用した。 しかし、確率論的領域では、遠方の歴史は信号ではなく単に高周波ノイズであることが多い。 したがって、ETTh1ベンチマークを通じて連続的なコンテキストアーキテクチャ(PatchTSTを含む)を実行することで、この前提が実際に成立するかどうかをテストする。 逆スケーリング法則が明確に現れ、文脈が長くなるにつれて予測誤差が上昇する。 3000ステップの窓はパフォーマンスを68%以上低下させ、注意機構が不適切な歴史的変動を無視していることを示す。 Retrieval-Augmented Forecasting (RAFT) を代替として評価する。 RAFTは0.379の平均2乗誤差(MSE)を固定した720ステップのウィンドウと選択的な検索で達成し、より少ない計算を必要とするにもかかわらず、長文構成とゼロショット基礎モデル(クロノス、モイライ)の両方より優れている。 さらに、検索ステップは、最も関連する歴史的セグメントのみを動的外生変数として注入することで、モデルが生のシーケンスから構築できない文脈インフォームドな帰納バイアスを与える。 そのため、今後の基盤モデルは、アーキテクチャ的に選択的検索にシフトする必要がある。

関連論文リスト

• TFGformer: Multivariate Time Series Forecasting via Time-Frequency Graph Learning and Covariate Fusion [12.980172248250257]
  本稿では,形状認識メモリ(SAM)とRevIN正規化を統合した検索拡張予測フレームワークを提案する。 7つの公開ベンチマークの実験では、CrossRAGはパラメトリックのみのベースラインと既存の検索拡張予測手法の両方を一貫して上回っている。
  論文  参考訳（メタデータ） (2026-07-31T14:24:26Z)
• Trio: Learning Time-Series Forecasting with Temporal-Spatial-Sample Attention and Structural Causal Priors [27.20677965052]
  近年のPFN(Presideed-Data Fitted Networks)は、合成タスクが伝達可能な推論動作の学習に役立つことを示唆している。 本稿では,Trioを提案する。Trioは時間-空間-サンプルの注意に基づく時系列予測アーキテクチャである。 本研究では,時間系列構造因果モデル (TS-SCM) を用いて,動的ラグ,異種間相互作用,ノイズ,フィードバック,分布ドリフトを含む構造化された合成予測タスクを生成する。
  論文  参考訳（メタデータ） (2026-06-05T14:01:58Z)
• TS-ICL: A Flexible Time-Indexed Foundation Model for Time Series via In-Context Learning [0.764671395172401]
  現在のアプローチは主に予測に焦点を当てているが、現実の時系列はしばしば不規則で部分的に観察される。 本稿では,予測と計算を統一する新しい確率的インコンテキスト学習エンコーダであるTS-ICLを紹介する。
  論文  参考訳（メタデータ） (2026-06-04T08:52:21Z)
• Overcoming the Modality Gap in Context-Aided Forecasting [54.976964834365056]
  本稿では,時間的力学の記述と数値履歴に相補的な文脈を生成する半合成データ拡張手法を提案する。 このアプローチによって大規模なデータセット生成が可能になり、700万のコンテキスト拡張時系列ウィンドウのコーパスであるCAF-7Mが実現される。
  論文  参考訳（メタデータ） (2026-03-12T21:05:33Z)
• Accuracy Law for the Future of Deep Time Series Forecasting [65.46625911002202]
  時系列予測は、部分的に観測可能で不確実な性質のため、本質的にゼロでない誤差の低い境界に直面する。 本稿では、ディープ時系列予測の性能上限をどうやって推定するかという根本的な問題に焦点をあてる。 新たに訓練された2,800以上の深層予測器の厳密な統計的テストに基づいて、深部モデルの最小予測誤差とウィンドウワイズ級数パターンの複雑さとの間に有意な指数関数的関係を見出した。
  論文  参考訳（メタデータ） (2025-10-03T05:18:47Z)
• Estimating Time Series Foundation Model Transferability via In-Context Learning [74.65355820906355]
  時系列基礎モデル(TSFM)は、大規模な事前訓練を通じて強力なゼロショット予測を提供する。 微調整は、公開データに制限のあるドメインのパフォーマンス向上に依然として不可欠である。 モデル選択をコンテキスト内学習問題として再キャストする転送可能性推定フレームワークであるTimeTicを紹介する。
  論文  参考訳（メタデータ） (2025-09-28T07:07:13Z)
• Towards Foundation Models for Zero-Shot Time Series Anomaly Detection: Leveraging Synthetic Data and Relative Context Discrepancy [33.68487894996624]
  時系列異常検出(TSAD)は重要な課題であるが、見えないデータに一般化するモデルを開発することは大きな課題である。 我々は、新しい事前学習パラダイムの上に構築されたTSADの新たな基盤モデルであるtextttTimeRCDを紹介した。 textttTimeRCD はゼロショット TSAD において,既存の汎用および異常固有の基盤モデルよりも大幅に優れていることを示す。
  論文  参考訳（メタデータ） (2025-09-25T14:05:15Z)
• Enhancing Transformer-Based Foundation Models for Time Series Forecasting via Bagging, Boosting and Statistical Ensembles [7.787518725874443]
  時系列基礎モデル(TSFM)は、時系列予測、異常検出、分類、計算のための強力な一般化とゼロショット能力を示している。 本稿では, 統計的およびアンサンブルに基づくエンハンスメント技術を用いて, 頑健さと精度を向上させる手法について検討する。
  論文  参考訳（メタデータ） (2025-08-18T04:06:26Z)
• Bridging the Last Mile of Prediction: Enhancing Time Series Forecasting with Conditional Guided Flow Matching [9.465542901469815]
  Conditional Guided Flow Matching (CGFM) は、補助的な予測モデルから出力を統合することで、フローマッチングを拡張するモデルに依存しないフレームワークである。 CGFMは、歴史的データを条件とガイダンスの両方に取り入れ、一方の条件付きパスを使用し、アフィンパスを用いて経路空間を拡大する。 データセットとベースラインにわたる実験は、CGFMが常に最先端のモデルより優れており、予測が進んでいることを示している。
  論文  参考訳（メタデータ） (2025-07-09T18:03:31Z)
• Solving Inverse Problems with FLAIR [68.87167940623318]
  本稿では,フローベース生成モデルを逆問題に先立って活用する学習自由変分フレームワークFLAIRを提案する。 標準画像ベンチマークの結果、FLAIRは再現性やサンプルの多様性の観点から、既存の拡散法や流れ法よりも一貫して優れていることが示された。
  論文  参考訳（メタデータ） (2025-06-03T09:29:47Z)
• Fast-Slow Thinking GRPO for Large Vision-Language Model Reasoning [5.774374541467044]
  FAST-GRPOはGRPOの変種であり,質問特性に基づいて推論深度を動的に適応する。 その結果,FASTの精度は,ベースモデルと比較して10%以上向上していることがわかった。
  論文  参考訳（メタデータ） (2025-04-25T16:11:23Z)
• UncertaintyRAG: Span-Level Uncertainty Enhanced Long-Context Modeling for Retrieval-Augmented Generation [93.38604803625294]
  IncertaintyRAG, a novel approach for long-context Retrieval-Augmented Generation (RAG)について紹介する。 我々は、SNR(Signal-to-Noise Ratio)ベースのスパン不確実性を用いて、テキストチャンク間の類似性を推定する。 不確かさRAGはLLaMA-2-7Bでベースラインを2.03%上回り、最先端の結果を得る。
  論文  参考訳（メタデータ） (2024-10-03T17:39:38Z)
• On the Discrepancy between Density Estimation and Sequence Generation [92.70116082182076]
  log-likelihoodは、同じファミリー内のモデルを考えるとき、BLEUと非常に相関している。 異なる家族間でのモデルランキングの相関はみられない。
  論文  参考訳（メタデータ） (2020-02-17T20:13:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。