論文の概要: How Much Computation Does Every Forecast Need? Structured Block Skipping in Two Time-Series Foundation Models

• arxiv url: http://arxiv.org/abs/2610.13208v1
• Date: Fri, 09 Oct 2026 08:26:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-13 04:06:29.478136
• Title: How Much Computation Does Every Forecast Need? Structured Block Skipping in Two Time-Series Foundation Models
• Title（参考訳）: 予測にどれだけの計算が必要か? 2つの時系列基礎モデルで構造化されたブロックスキッピング
• Abstract要約: 時系列基礎モデルは、入力毎に同じネットワーク深さを使用する。 我々は,Chronos-Bolt と TimesFM 2.5 の2つの事前学習モデルにおいて,すべての Transformer ブロックを推論時に除去できるかどうかを検証した。
• 参考スコア（独自算出の注目度）: 0.913755431537592
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Time-series foundation models use the same network depth for every input, although forecasting windows differ in structure and difficulty. We test whether whole Transformer blocks can be removed at inference time in two pretrained models: Chronos-Bolt and TimesFM 2.5. Our bypasses avoid the original block computation and preserve the dense model exactly when all blocks are enabled. Masks are selected only on calibration windows and evaluated on 1,088 held-out windows from ETTh1, Traffic, Weather, and Exchange. At moderate sparsity, Chronos-Bolt with 7/11 candidate blocks and TimesFM with 16/20 blocks show little change in mean relative forecasting quality across datasets while reducing median A100 batch-1 latency by 11.2% and 13.4%. More aggressive TimesFM skipping accelerates inference further but substantially harms Traffic and Weather. Across both models, different equal-budget masks win on different windows, and a retrospective oracle significantly improves over the best static mask on every dataset. However, dataset-specific masks transfer inconsistently, and Chronos representations do not support reliable unseen-domain routing. These results establish cross-architecture structured redundancy and input-dependent opportunity, but not a deployable dynamic inference method.
• Abstract（参考訳）: 時系列基礎モデルは入力毎に同じネットワーク深さを使用するが、予測ウィンドウは構造と難易度が異なる。 我々は,Chronos-Bolt と TimesFM 2.5 の2つの事前学習モデルにおいて,すべての Transformer ブロックを推論時に除去できるかどうかを検証した。 我々のバイパスは、元のブロック計算を回避し、すべてのブロックが有効になれば、密集したモデルを正確に保存する。 マスクはキャリブレーションウィンドウでのみ選択され、ETTh1、トラフィック、天気、交換所から1,088個のホールトアウトウィンドウで評価される。 適度な間隔では、7/11の候補ブロックを持つChronos-Boltと、16/20のブロックを持つTimesFMはデータセット全体の平均相対予測品質をほとんど変更せず、中央値のA100バッチ-1レイテンシを11.2%、13.4%削減した。 より攻撃的なTimesFMのスキップは推論をさらに加速するが、交通と天気を著しく損なう。 どちらのモデルでも、異なるウィンドウで異なる等予算マスクが勝利し、レトロスペクティブのオラクルはデータセットごとに最高の静的マスクよりも大幅に改善される。 しかし、データセット固有のマスクは一貫性がなく、クロノス表現は信頼できないドメインルーティングをサポートしない。 これらの結果は、相互構造的冗長性と入力依存の機会を確立するが、デプロイ可能な動的推論方法ではない。

関連論文リスト

• RACE: Residual-Aware Test-Time Adaptation for Neighbor-Rich Time-Series Foundation Model Forecasting [77.45682913395635]
  時系列基礎モデル (TSFM) は, 予測タスク全体にわたって強く機能するが, 系列ごとの推測は近隣のリッチな予測に不適である。 RACE(Residual-Aware Correction of Forecasting Errors, Residual-Aware Correction of Forecasting Errors)は、2段階のフレームワークである。
  論文  参考訳（メタデータ） (2026-09-30T13:14:38Z)
• FlowBlock: Wavefront-Parallel Decoding for Self-Correcting Diffusion Language Models [16.404926372068047]
  ブロックワイド拡散大言語モデル (dLLM) はブロックレベルで逐次デコードし、ブロック間で有効なKVキャッシュの再利用を可能にするが、ブロック間デコーディングを厳密にシリアライズする。 2つのメカニズム上に構築されたトレーニング不要な並列デコーディングフレームワークである textbfflowblock を提案する。 LLaDA-2.1とLLaDA-2.0の2つのシリアルブロック単位のdLLMを最大2.95$times$と4.01$times$に改善し、レイテンシを最大53.6%、77.1%削減した。
  論文  参考訳（メタデータ） (2026-07-20T08:05:03Z)
• Less Tokens, Better Forecasts: Sparse Residual Routing for Efficient Weather Prediction [24.266851703305004]
  Viベースの天気予報モデルは、近くの大気グリッドポイントが時間とともに同様の値や領域を含む場合であっても、すべての空間トークンにわたって計算を適用する。 パラメータフリーなプラグインルーティングモジュールであるSparse-Reslimを導入する。 ERA5の解像度は0.25textdegree標準と2つのモデルファミリ、決定論的トランスフォーマーと拡散モデルまでで、Sparse-Reslimは評価変数の予測精度を著しく向上し、コストを大幅に削減する。
  論文  参考訳（メタデータ） (2026-07-02T23:43:01Z)
• Earth System Foundation Model (ESFM): A unified framework for heterogeneous data integration and forecasting [52.53742727060265]
  地球系の基礎モデル(FM)は、大量のデータセットにわたる物理変数間の統計的関係を学習する。 本稿では,アース・システム・ファンデーション・モデル(ESFM)について紹介する。 本研究では,高密度グリッドデータ (ERA5, CMIP6) , 地域密集データ, 疎グリッドMODIS衛星データ, 局データを用いた。 結果は、最先端のベンチマークと比較して、競争力や優れたパフォーマンスを示している。
  論文  参考訳（メタデータ） (2026-04-20T11:40:39Z)
• DMax: Aggressive Parallel Decoding for dLLMs [77.24184219948337]
  効率的な拡散言語モデル(dLLM)のための新しいパラダイムであるDMaxを提案する。 並列デコードにおけるエラーの蓄積を軽減し、生成品質を維持しながらアグレッシブデコードを可能にする。 当社のアプローチの核心は、マスクと均一なdLLMを効率的に統合する新しいトレーニング戦略であるOn-Policy Uniform Trainingである。
  論文  参考訳（メタデータ） (2026-04-09T14:35:42Z)
• T1: One-to-One Channel-Head Binding for Multivariate Time-Series Imputation [6.002503434201551]
  さまざまな欠落パターンと重い欠落の下で、時系列で欠落する価値を示唆することは困難である。 本稿では,頑健な計算を実現するCNN-TransformerハイブリッドアーキテクチャであるT1(Time series imputation with 1-to-1 channel-head binding)を紹介する。 T1は最先端の性能を達成し、MSEを2番目に高いベースラインに比べて平均46%削減する。
  論文  参考訳（メタデータ） (2026-02-24T16:03:46Z)
• BlockGPT: Spatio-Temporal Modelling of Rainfall via Frame-Level Autoregression [7.192323743491843]
  BlockGPTはバッチトークン化を用いた生成自己回帰変換器である。 各フレーム内で自己注意とフレーム間の因果的注意を用いて、時空を分解する。 精度が向上し、カテゴリのメトリクスによって測定されるイベントのローカライゼーションが向上し、推論は同等のベースラインよりも最大31倍高速になる。
  論文  参考訳（メタデータ） (2025-10-07T11:52:32Z)
• Perfectly-Private Analog Secure Aggregation in Federated Learning [51.61616734974475]
  連合学習では、複数のパーティがモデルをローカルにトレーニングし、パラメータを中央サーバと共有する。 本稿では,有限場ではなくトーラスを用いた新しいセキュアパラメータアグリゲーション法を提案する。
  論文  参考訳（メタデータ） (2025-09-10T15:22:40Z)
• Masksembles for Uncertainty Estimation [60.400102501013784]
  ディープニューラルネットワークは、その強みを巧みに実証しているが、その予測の信頼性を推定することは依然として困難である。 深層アンサンブルは不確かさを推定する最良の方法の1つと考えられているが、訓練や評価は非常に高価である。 mc-dropoutも人気の高い代替品で、安価だが信頼性も低い。
  論文  参考訳（メタデータ） (2020-12-15T14:39:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。