論文の概要: When Attention Does Not Explain the Peak: Temporal Reference vs. Forecast Output in Attention-Based Time-Series Forecasting
- arxiv url: http://arxiv.org/abs/2610.07080v1
- Date: Mon, 05 Oct 2026 11:15:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 02:58:29.544357
- Title: When Attention Does Not Explain the Peak: Temporal Reference vs. Forecast Output in Attention-Based Time-Series Forecasting
- Title（参考訳）: 注意がピークを説明しないとき--注意に基づく時系列予測における時間参照と予測出力
- Abstract要約: 本研究では,高度に出席する地平線が予測ピークのタイミングを説明するために現れる時間的解釈を示す。
パナマの負荷データセットの31日毎のウィンドウで、この予測は0hと51.6%の正確な一致率でピーク時の中央値の誤差を達成している。
この解離は単なるargmaxアーティファクトではなく、pm1$h以内では1.16times$, $1.11times$, $1.14times$にしか達しない。
- 参考スコア（独自算出の注目度）: 2.1485350418225244
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Attention maps are often interpreted as evidence of what a forecasting model uses when making predictions. In our load-forecasting model, a CLS representation of historical demand queries 24 future exogenous horizon tokens through cross-attention, inviting a temporal interpretation in which highly attended horizons may appear to explain forecast peak timing. We test this interpretation using a horizon-level attention descriptor, $Ψ_{\mathrm{out}}$. Across 31 day-aligned windows of the Panama load dataset, the forecast achieves a median peak-time error of 0 h and a 51.6% exact-match rate, whereas the argmax of $Ψ_{\mathrm{out}}$ has a median error of 5 h and 0% exact match. The forecast peak is closer to the observed peak in 27 of 31 windows. This dissociation is not merely an argmax artifact: within $\pm1$ h, attention reaches only $1.16\times$, $1.11\times$, and $1.14\times$ the uniform baseline around observed, predicted, and weekly-naive peaks, respectively, indicating weak and non-selective concentration. Yet the attention profile is structured, with cross-window consistency of 0.83. Replacing 12 future weather features with their training-set means makes the profile nearly uniform, showing sensitivity to future weather variation rather than fixed horizon position alone. The dissociation is also reproduced across three random-seed runs. These results show that structured, input-sensitive, and reproducible horizon-level cross-attention need not provide a valid peak-selective explanation of forecast behavior. The observed behavior is instead consistent with an internal horizon-reference role for integrating future exogenous information, although this functional role is not causally established.
- Abstract（参考訳）: 注意マップはしばしば、予測モデルが予測を行う際に使用することの証拠として解釈される。
負荷予測モデルでは,履歴要求クエリー24のCRS表現は,クロスアテンションを通して,将来的な地平線トークンを表現し,高い出席率の地平線が予測ピークタイミングを説明するために現れるような時間的解釈を招待する。
この解釈は、水平線レベルのアテンション記述子 $ _{\mathrm{out}}$ を使ってテストする。
パナマの負荷データセットの31日ごとのウィンドウで、この予測は0hと51.6%の正確なマッチ率でピーク時の中央値の誤差を達成している。
予測ピークは31ウィンドウ中27ウィンドウで観測されたピークに近い。
この解離は単なるargmaxアーティファクトではない:$\pm1$ h以内では、注目は1.16\times$, $1.11\times$, $1.14\times$で観測、予測、週平均ピークの周囲の均一なベースラインがそれぞれ弱く、非選択的な濃度を示す。
しかし、アテンションプロファイルは構造化されており、クロスウインドウの一貫性は0.83である。
将来の12の気象特性をトレーニングセットで置き換えることで、プロファイルはほぼ均一になり、固定された地平線位置のみではなく、将来の気象変動に敏感になる。
解離はまた、3つのランダムシードランで再現される。
これらの結果から, 構造的, 入力感受性, 再現可能な水平方向のクロスアテンションは, 予測行動の有効なピーク選択的説明を与える必要はないことが示唆された。
観察された振る舞いは、将来の外因性情報を統合するための内部の地平線参照の役割と一致しているが、この機能的役割は因果的に確立されていない。
関連論文リスト
- Rethinking Cross-Channel Importance in Time-Series Forecasting [0.6569801736856212]
チャネル間モデリングは時系列予測の中心である。
統計的に関連があり、予測的に有用であり、訓練された予測者によって実際に使用されるチャネルはしばしば、同じ重要性の概念を定義したかのように扱われる。
論文 参考訳（メタデータ） (2026-09-26T03:23:56Z) - How Faithful Is Attribution for Sales Forecasting? A Counterfactual Study [0.0]
WaveNetスタイルの拡張畳み込みネットワークのような販売予測のための深いモデルは正確だが不透明である。
我々は、Corporacion FavoritaのフルデータセットでトレーニングされたマルチシリーズWaveNet予測層に、ポストホックでアーキテクチャに依存しない非現実的な解釈層を追加します。
論文 参考訳（メタデータ） (2026-09-04T06:52:15Z) - Forecast Collapse in Time-Series Foundation Models [35.06550187645666]
時系列基礎モデル(TSFM)、12のディープラーニング予測モデル、97の公開ベンチマーク構成の予測崩壊について検討した。
予測可能性の低さは校正点予測の振幅を制限しているのに対し、シリーズごとの目標はクロスシリーズ構造を未同定のまま残している。
このトレードオフに対応するために、キャリブレーションとランキングのバランスをとるシンプルな目的であるCalibRankを紹介します。
論文 参考訳（メタデータ） (2026-08-14T09:08:02Z) - Asymmetric Peak-Aware Loss for Peak-Critical Time Series Forecasting [1.7126708168238123]
群衆需要予測などの運用時系列予測アプリケーションでは,過大予測よりも過大予測に関連するリスクが著しく高い。
Asymmetric Peak-Aware Loss (APAL) は、予測下降をより過度に罰し、予測ウィンドウ内のピーク領域のトレーニング重量を増加させるモデルに依存しない目的である。
APALは、制御可能なトレードオフを集約エラーで公開しながら、テール精度とピーク予測品質を改善し、ピーク予測失敗が主な運用上の問題である場合に、実用的な解決策となる。
論文 参考訳（メタデータ） (2026-07-16T11:44:48Z) - Bi-Level Chaotic Fusion Based Graph Convolutional Network for Stock Market Prediction Interval [0.0]
金融市場の予測は本質的に不確実であるが、ほとんどのディープラーニングアプローチは不確実性のない単一見積もりに依存している。
この問題は予測間隔を用いて解くことができ、予測の不確実性と低い境界が得られる。
しかし、現在の手法は資産間の関係を無視したり、適切な校正シャープネスを確保することができない傾向にある。
論文 参考訳（メタデータ） (2026-05-05T05:06:42Z) - DistDF: Time-Series Forecasting Needs Joint-Distribution Wasserstein Alignment [92.70019102733453]
トレーニング時系列予測モデルは、モデル予測の条件分布とラベルシーケンスの条件分布の整合性を必要とする。
本研究では,条件予測とラベル分布との差を最小限に抑えてアライメントを実現するDistDFを提案する。
論文 参考訳（メタデータ） (2025-10-28T16:09:59Z) - vAttention: Verified Sparse Attention [100.98210818821688]
vAttentionは、ユーザが指定した$(epsilon, delta)$の近似精度保証(thus, confirmed)を備えた実用的なスパースアテンションメカニズムである。
vAttentionはデータセット間のスパースアテンションの質を大幅に改善することを示す。
モデルの品質を損なうことなく高速なデコードを実現するために、推論シナリオにデプロイすることができる。
論文 参考訳（メタデータ） (2025-10-07T08:46:08Z) - When Rigidity Hurts: Soft Consistency Regularization for Probabilistic
Hierarchical Time Series Forecasting [69.30930115236228]
確率的階層的時系列予測は時系列予測の重要な変種である。
ほとんどの手法は点予測に焦点を絞っており、確率的確率分布を十分に調整していない。
ProFHiTは,階層全体の予測分布を共同でモデル化する完全確率的階層予測モデルである。
論文 参考訳（メタデータ） (2023-10-17T20:30:16Z) - Streaming Motion Forecasting for Autonomous Driving [71.7468645504988]
ストリーミングデータにおける将来の軌跡を問うベンチマークを導入し,これを「ストリーミング予測」と呼ぶ。
我々のベンチマークは本質的に、スナップショットベースのベンチマークでは見過ごされていない安全上の問題であるエージェントの消失と再出現を捉えている。
我々は,任意のスナップショットベースの予測器をストリーミング予測器に適応させることのできる,"Predictive Streamer"と呼ばれるプラグアンドプレイメタアルゴリズムを提案する。
論文 参考訳（メタデータ） (2023-10-02T17:13:16Z) - When Rigidity Hurts: Soft Consistency Regularization for Probabilistic
Hierarchical Time Series Forecasting [69.30930115236228]
確率的階層的時系列予測は時系列予測の重要な変種である。
ほとんどの手法は点予測に焦点を絞っており、確率的確率分布を十分に調整していない。
ProFHiTは,階層全体の予測分布を共同でモデル化する完全確率的階層予測モデルである。
論文 参考訳（メタデータ） (2022-06-16T06:13:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。