論文の概要: Patch Attention Wisely: Understanding Patch Length in Attention-Based Forecasting
- arxiv url: http://arxiv.org/abs/2611.08160v1
- Date: Thu, 05 Nov 2026 15:18:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-07 04:55:13.560636
- Title: Patch Attention Wisely: Understanding Patch Length in Attention-Based Forecasting
- Title(参考訳): Patch Attention Wisely:Attention-Based ForecastingにおけるPatch長の理解
- Abstract要約: 我々は,パッチ長がなぜ正確な予測に重要であるのかを説明する理論的枠組みを開発する。
時間的依存下での表現と推定誤差のバランスをとるパッチ選択基準を開発する。
- 参考スコア(独自算出の注目度): 16.964336990379298
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Attention-based time series forecasters commonly group consecutive observations into patches. Patch length is known to have a substantial impact on forecasting performance, yet its selection remains largely empirical. We develop a theoretical framework that explains why patch length matters for forecasting accuracy and provides a principled basis for its selection. For linear state-space models, we derive an exact factorization of the forecasting coefficient matrix that separates forecast dynamics from filtering dynamics. We show that dominance of a single forecast component at long horizons does not generally imply a rank-one representation. This explains why longer horizons alone need not reduce representational complexity. We combine the factorization with estimation bounds to develop a patch-selection criterion that balances representation and estimation errors under temporal dependence. Our analysis establishes conditions under which balanced patching is justified and clarifies how predictive structure, head count, training sample size, and long-run dependence enter the selection criterion.
- Abstract(参考訳): 注意に基づく時系列予測は、通常パッチに連続した観察をグループ化する。
パッチ長は予測性能に重大な影響を与えることが知られているが、その選択は実験的なままである。
本稿では,パッチ長が精度予測に重要である理由を説明する理論的枠組みを開発し,その選択の原理的基礎を提供する。
線形状態空間モデルでは、予測力学とフィルタリング力学を分離する予測係数行列の正確な分解を導出する。
長い地平線における1つの予測成分の優位性は、一般にランク1の表現を意味するものではないことを示す。
このことは、長い地平線だけで表現の複雑さを減らさない理由を説明する。
時間的依存下での表現と推定誤差のバランスをとるパッチ選択基準を開発するために,因子化と推定境界を組み合わせる。
本分析は,バランスの取れたパッチが正当である条件を確立し,予測構造,頭部数,トレーニングサンプルサイズ,長期依存が選択基準にどのように入り込むかを明らかにする。
関連論文リスト
- Proper Scoring Rule-based Diffusion for Probabilistic Weather Forecasting [59.015610520217734]
我々は,コンテキストとその劣化バージョンから,同じ将来状態を予測できる補助的条件記述タスクを導入する。
推測時には、予測器は、完全に破損したエンドポイントにおいて、単一の前方通過で各アンサンブル部材を生成することができる。
論文 参考訳(メタデータ) (2026-09-29T22:47:10Z) - NVExplain: Explaining Time Series Forecasting with Latent Trajectory Analysis and Structure-Preserving Surrogates [2.0320459617688793]
時系列予測モデルは、ハイテイクな設定で広く使われている。
既存のポストホック法はしばしば時間的依存を無視し、地平線固有の説明を提供しない。
本稿では,各予測地平線を時間的関係のある歴史的遅れに寄与させることで予測予測を説明するモデルに依存しない説明可能性フレームワークを提案する。
論文 参考訳(メタデータ) (2026-08-25T19:14:12Z) - Selective Time Series Forecasting via Metalearning [3.255705667028885]
本稿では,予測誤差の経験的パーセンタイルをモデル化し,限界に対処する選択予測フレームワークを提案する。
予測自体から拒絶決定を分離し、ドメインに依存しない特徴に基礎付けることにより、このフレームワークは異種時系列を横断する効果的な棄権移動を可能にする。
論文 参考訳(メタデータ) (2026-06-22T15:02:10Z) - Scalable Uncertainty Quantification for Extreme Weather Forecasting via Empirical Neural Tangent Kernels [0.0]
ディープラーニングの天気モデルでは、数値的な天気予報の精度が向上し、桁違いの精度が向上した。
しかし、不確実性予測のない決定論的予測は、極度の気象イベントにおける高い意思決定に重要なギャップである。
本稿では,最後の層的経験的特徴を用いたニューラル・タンジェント・カーネルに基づく不確実性定量化(NTK-UQ)を提案する。
論文 参考訳(メタデータ) (2026-06-01T20:57:06Z) - PatchDecomp: Interpretable Patch-Based Time Series Forecasting [0.21485350418225244]
本稿では,ニューラルネットワークを用いた時系列予測手法を提案する。
PatchDecompは入力時系列をサブシーケンス(パッチ)に分割し、各パッチのコントリビューションを集約して予測を生成する。
複数のベンチマークデータセットの実験は、PatchDecompが最近の予測手法に匹敵する予測パフォーマンスを提供することを示した。
論文 参考訳(メタデータ) (2026-03-04T10:04:51Z) - DistDF: Time-Series Forecasting Needs Joint-Distribution Wasserstein Alignment [92.70019102733453]
トレーニング時系列予測モデルは、モデル予測の条件分布とラベルシーケンスの条件分布の整合性を必要とする。
本研究では,条件予測とラベル分布との差を最小限に抑えてアライメントを実現するDistDFを提案する。
論文 参考訳(メタデータ) (2025-10-28T16:09:59Z) - Relational Conformal Prediction for Correlated Time Series [56.59852921638328]
時系列における不確実性定量化の問題を相関配列を利用して解決する。
共形予測フレームワークと量子レグレッションに基づく分布自由な新しい手法を提案する。
我々の手法は正確なカバレッジを提供し、関連するベンチマークで最先端の不確実性定量化を実現する。
論文 参考訳(メタデータ) (2025-02-13T16:12:17Z) - Streaming Motion Forecasting for Autonomous Driving [71.7468645504988]
ストリーミングデータにおける将来の軌跡を問うベンチマークを導入し,これを「ストリーミング予測」と呼ぶ。
我々のベンチマークは本質的に、スナップショットベースのベンチマークでは見過ごされていない安全上の問題であるエージェントの消失と再出現を捉えている。
我々は,任意のスナップショットベースの予測器をストリーミング予測器に適応させることのできる,"Predictive Streamer"と呼ばれるプラグアンドプレイメタアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-10-02T17:13:16Z) - Joint Forecasting of Panoptic Segmentations with Difference Attention [72.03470153917189]
シーン内の全てのオブジェクトを共同で予測する新しいパノプティックセグメンテーション予測モデルについて検討する。
提案したモデルをCityscapesとAIODriveデータセット上で評価する。
論文 参考訳(メタデータ) (2022-04-14T17:59:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。