論文の概要: Forecast collapse of transformer-based models under squared loss in financial time series

• arxiv url: http://arxiv.org/abs/2604.00064v1
• Date: Tue, 31 Mar 2026 09:06:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-02 16:44:31.657857
• Title: Forecast collapse of transformer-based models under squared loss in financial time series
• Title（参考訳）: 金融時系列における2乗損失下における変圧器モデル予測崩壊
• Abstract要約: 弱条件構造を持つ時系列の2乗損失下での軌跡予測について検討した。 我々は、将来の軌道の条件付き期待が効果的に縮退する体制を強調した。 モデル表現率の向上は予測精度を向上させるものではなく、代わりに最適な予測器の周囲に突発的な軌道変動をもたらす。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We study trajectory forecasting under squared loss for time series with weak conditional structure, using highly expressive prediction models. Building on the classical characterization of squared-loss risk minimization, we emphasize regimes in which the conditional expectation of future trajectories is effectively degenerate, leading to trivial Bayes-optimal predictors (flat for prices and zero for returns in standard financial settings). In this regime, increased model expressivity does not improve predictive accuracy but instead introduces spurious trajectory fluctuations around the optimal predictor. These fluctuations arise from the reuse of noise and result in increased prediction variance without any reduction in bias. This provides a process-level explanation for the degradation of Transformerbased forecasts on financial time series. We complement these theoretical results with numerical experiments on high-frequency EUR/USD exchange rate data, analyzing the distribution of trajectory-level forecasting errors. The results show that Transformer-based models yield larger errors than a simple linear benchmark on a large majority of forecasting windows, consistent with the variance-driven mechanism identified by the theory.
• Abstract（参考訳）: 条件構造が弱い時系列の2乗損失下での軌道予測について,高度に表現力のある予測モデルを用いて検討した。 リスク最小化の古典的特徴を基盤として、将来の軌道の条件付き予測が効果的に縮退し、自明なベイズ最適予測器(標準金融環境における価格とリターンのゼロ)につながるレジームを強調した。 この状態において、モデル表現率の向上は予測精度を向上させるのではなく、代わりに最適な予測器の周囲に突発的な軌道変動をもたらす。 これらのゆらぎはノイズの再利用から生じ、バイアスを減らさずに予測分散が増大する。 これは、財務時系列上のTransformerベースの予測の劣化に関するプロセスレベルの説明を提供する。 我々は,これらの理論結果を高周波EUR/USD交換レートデータに関する数値実験で補完し,軌道レベルの予測誤差の分布を解析した。 その結果、Transformerベースのモデルでは、ほとんどの予測ウィンドウ上で単純な線形ベンチマークよりも誤差が大きいことが示され、この理論によって同定される分散駆動機構と一致している。

関連論文リスト

• Repurposing Deep Limit Order Book Forecasting for Scenario-Conditioned Market Impact Modeling [49.590388401787834]
  本稿では,機械的に有効な反事実メッセージの注入前後の予測者の予測分布を比較するモデルに依存しないフレームワークを提案する。 トランスフォーマーをベースとした予測器は、スピアマンの相関関係を0.99と97.2%と、実現した歴史的成果との方向性の一致で、シナリオランキングを回復した。
  論文  参考訳（メタデータ） (2026-09-15T10:06:03Z)
• Factorize to Generalize: Retrieval-Guided Invariant-Dynamic Decomposition for Time Series Forecasting [64.2640656619583]
  時系列基礎モデル (TSFM) は, 大規模事前学習と検索強化予測により, ゼロショット予測性能が向上した。 本稿では時系列予測のための検索誘導不変動的分解フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-05-24T07:31:55Z)
• Forecasting the U.S. Treasury Yield Curve: A Distributionally Robust Machine Learning Approach [0.12891210250935145]
  配当の不確実性下における米国債利回り曲線の予測について検討する。 予測者は、平均予測誤差を最小化する代わりに、最悪のケース予測損失を最小限に抑える決定ルールを選択する。 本研究では,因子モデルと高次元非パラメトリック機械学習モデルを統合する分散ロバストなアンサンブル予測フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-01-08T05:26:43Z)
• Neural CDEs as Correctors for Learned Time Series Models [0.0]
  本研究では,予測器を学習時系列モデルとし,Correctorをニューラル制御微分方程式とする予測器・コレクタ機構を提案する。 提案したCorrectorは、不規則にサンプリングされた時系列と連続時間および離散時間予測器で動作する。 合成, 物理シミュレーション, 実世界の予測データセットにおいて, 様々な予測器を用いてコレクターを評価した。
  論文  参考訳（メタデータ） (2025-12-13T01:17:05Z)
• Enforcing tail calibration when training probabilistic forecast models [0.0]
  本研究では,確率予測モデルの学習に使用する損失関数を用いて,極端な事象に対する予測の信頼性を向上させる方法について検討する。 我々は,最先端モデルが極端風速のキャリブレーション予測を発行しないことを示すとともに,モデルトレーニング中の損失関数への適切な適応により,極端事象のキャリブレーションを改善することができることを示した。
  論文  参考訳（メタデータ） (2025-06-16T16:51:06Z)
• $K^2$VAE: A Koopman-Kalman Enhanced Variational AutoEncoder for Probabilistic Time Series Forecasting [11.83736650205371]
  確率的時系列予測(PTSF)は、経済、エネルギー、輸送など様々な分野における意思決定において重要な役割を果たしている。 我々は、非線形時系列を線形力学系に変換する効率的なVAEベースの生成モデルであるK2$VAEを紹介する。 K2$VAEは、短期および長期のPTSFにおいて最先端のメソッドより優れており、より効率的で正確なソリューションを提供する。
  論文  参考訳（メタデータ） (2025-05-29T02:52:59Z)
• ExtremeCast: Boosting Extreme Value Prediction for Global Weather Forecast [57.6987191099507]
  非対称な最適化を行い、極端な天気予報を得るために極端な値を強調する新しい損失関数であるExlossを導入する。 また,複数のランダムサンプルを用いて予測結果の不確かさをキャプチャするExBoosterについても紹介する。 提案手法は,上位中距離予測モデルに匹敵する全体的な予測精度を維持しつつ,極端気象予測における最先端性能を達成することができる。
  論文  参考訳（メタデータ） (2024-02-02T10:34:13Z)
• Diffusion Variational Autoencoder for Tackling Stochasticity in Multi-Step Regression Stock Price Prediction [54.21695754082441]
  長期的地平線上での多段階の株価予測は、ボラティリティの予測に不可欠である。 多段階の株価予測に対する現在の解決策は、主に単一段階の分類に基づく予測のために設計されている。 深層階層型変分オートコーダ(VAE)と拡散確率的手法を組み合わせてセック2seqの株価予測を行う。 本モデルでは, 予測精度と分散性の観点から, 最先端の解よりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-08-18T16:21:15Z)
• Uncertainty estimation of pedestrian future trajectory using Bayesian approximation [137.00426219455116]
  動的トラフィックシナリオでは、決定論的予測に基づく計画は信頼できない。 著者らは、決定論的アプローチが捉えられない近似を用いて予測中の不確実性を定量化する。 将来の状態の不確実性に対する降雨重量と長期予測の影響について検討した。
  論文  参考訳（メタデータ） (2022-05-04T04:23:38Z)
• Learning Interpretable Deep State Space Model for Probabilistic Time Series Forecasting [98.57851612518758]
  確率的時系列予測は、その歴史に基づいて将来の分布を推定する。 本稿では,非線形エミッションモデルと遷移モデルとをネットワークによってパラメータ化した,確率的時系列予測のための深部状態空間モデルを提案する。 実験では,我々のモデルが正確かつ鋭い確率予測を生成することを示す。
  論文  参考訳（メタデータ） (2021-01-31T06:49:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。