論文の概要: Forecast collapse of transformer-based models under squared loss in financial time series

• arxiv url: http://arxiv.org/abs/2604.00064v1
• Date: Tue, 31 Mar 2026 09:06:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-02 16:44:31.657857
• Title: Forecast collapse of transformer-based models under squared loss in financial time series
• Title（参考訳）: 金融時系列における2乗損失下における変圧器モデル予測崩壊
• Authors: Pierre Andreoletti,
• Abstract要約: 弱条件構造を持つ時系列の2乗損失下での軌跡予測について検討した。 我々は、将来の軌道の条件付き期待が効果的に縮退する体制を強調した。 モデル表現率の向上は予測精度を向上させるものではなく、代わりに最適な予測器の周囲に突発的な軌道変動をもたらす。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We study trajectory forecasting under squared loss for time series with weak conditional structure, using highly expressive prediction models. Building on the classical characterization of squared-loss risk minimization, we emphasize regimes in which the conditional expectation of future trajectories is effectively degenerate, leading to trivial Bayes-optimal predictors (flat for prices and zero for returns in standard financial settings). In this regime, increased model expressivity does not improve predictive accuracy but instead introduces spurious trajectory fluctuations around the optimal predictor. These fluctuations arise from the reuse of noise and result in increased prediction variance without any reduction in bias. This provides a process-level explanation for the degradation of Transformerbased forecasts on financial time series. We complement these theoretical results with numerical experiments on high-frequency EUR/USD exchange rate data, analyzing the distribution of trajectory-level forecasting errors. The results show that Transformer-based models yield larger errors than a simple linear benchmark on a large majority of forecasting windows, consistent with the variance-driven mechanism identified by the theory.
• Abstract（参考訳）: 条件構造が弱い時系列の2乗損失下での軌道予測について,高度に表現力のある予測モデルを用いて検討した。 リスク最小化の古典的特徴を基盤として、将来の軌道の条件付き予測が効果的に縮退し、自明なベイズ最適予測器(標準金融環境における価格とリターンのゼロ)につながるレジームを強調した。 この状態において、モデル表現率の向上は予測精度を向上させるのではなく、代わりに最適な予測器の周囲に突発的な軌道変動をもたらす。 これらのゆらぎはノイズの再利用から生じ、バイアスを減らさずに予測分散が増大する。 これは、財務時系列上のTransformerベースの予測の劣化に関するプロセスレベルの説明を提供する。 我々は,これらの理論結果を高周波EUR/USD交換レートデータに関する数値実験で補完し,軌道レベルの予測誤差の分布を解析した。 その結果、Transformerベースのモデルでは、ほとんどの予測ウィンドウ上で単純な線形ベンチマークよりも誤差が大きいことが示され、この理論によって同定される分散駆動機構と一致している。

関連論文リスト

• Forecasting the U.S. Treasury Yield Curve: A Distributionally Robust Machine Learning Approach [0.12891210250935145]
  配当の不確実性下における米国債利回り曲線の予測について検討する。 予測者は、平均予測誤差を最小化する代わりに、最悪のケース予測損失を最小限に抑える決定ルールを選択する。 本研究では,因子モデルと高次元非パラメトリック機械学習モデルを統合する分散ロバストなアンサンブル予測フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-01-08T05:26:43Z)
• Enforcing tail calibration when training probabilistic forecast models [0.0]
  本研究では,確率予測モデルの学習に使用する損失関数を用いて,極端な事象に対する予測の信頼性を向上させる方法について検討する。 我々は,最先端モデルが極端風速のキャリブレーション予測を発行しないことを示すとともに,モデルトレーニング中の損失関数への適切な適応により,極端事象のキャリブレーションを改善することができることを示した。
  論文  参考訳（メタデータ） (2025-06-16T16:51:06Z)
• ExtremeCast: Boosting Extreme Value Prediction for Global Weather Forecast [57.6987191099507]
  非対称な最適化を行い、極端な天気予報を得るために極端な値を強調する新しい損失関数であるExlossを導入する。 また,複数のランダムサンプルを用いて予測結果の不確かさをキャプチャするExBoosterについても紹介する。 提案手法は,上位中距離予測モデルに匹敵する全体的な予測精度を維持しつつ,極端気象予測における最先端性能を達成することができる。
  論文  参考訳（メタデータ） (2024-02-02T10:34:13Z)
• Diffusion Variational Autoencoder for Tackling Stochasticity in Multi-Step Regression Stock Price Prediction [54.21695754082441]
  長期的地平線上での多段階の株価予測は、ボラティリティの予測に不可欠である。 多段階の株価予測に対する現在の解決策は、主に単一段階の分類に基づく予測のために設計されている。 深層階層型変分オートコーダ(VAE)と拡散確率的手法を組み合わせてセック2seqの株価予測を行う。 本モデルでは, 予測精度と分散性の観点から, 最先端の解よりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-08-18T16:21:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。