論文の概要: Towards Scaling Law Analysis For Spatiotemporal Weather Data
- arxiv url: http://arxiv.org/abs/2604.05068v1
- Date: Mon, 06 Apr 2026 18:14:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-08 17:42:09.433047
- Title: Towards Scaling Law Analysis For Spatiotemporal Weather Data
- Title(参考訳): 時空間気象データのスケーリング法則解析に向けて
- Abstract要約: 単一ステップのトレーニング損失から長期ロールアウトやチャネル単位のメトリクスまで,自動回帰天気予報のためのニューラルスケーリング分析を拡張した。
プールドスケーリングは望ましいように見えるが、多くのチャネルは遅延リードで劣化する。
本稿では,重み付け対象,地平線対応カリキュラム,出力間の資源配分について論じる。
- 参考スコア(独自算出の注目度): 50.25336689856158
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Compute-optimal scaling laws are relatively well studied for NLP and CV, where objectives are typically single-step and targets are comparatively homogeneous. Weather forecasting is harder to characterize in the same framework: autoregressive rollouts compound errors over long horizons, outputs couple many physical channels with disparate scales and predictability, and globally pooled test metrics can disagree sharply with per-channel, late-lead behavior implied by short-horizon training. We extend neural scaling analysis for autoregressive weather forecasting from single-step training loss to long rollouts and per-channel metrics. We quantify (1) how prediction error is distributed across channels and how its growth rate evolves with forecast horizon, (2) if power law scaling holds for test error, relative to rollout length when error is pooled globally, and (3) how that fit varies jointly with horizon and channel for parameter, data, and compute-based scaling axes. We find strong cross-channel and cross-horizon heterogeneity: pooled scaling can look favorable while many channels degrade at late leads. We discuss implications for weighted objectives, horizon-aware curricula, and resource allocation across outputs.
- Abstract(参考訳): 計算最適スケーリング法則は NLP と CV に対して比較的よく研究されており、目的は通常単段階であり、目標は比較的均一である。
自己回帰的なロールアウトは長い水平線上で複雑なエラーを発生させ、異なるスケールと予測可能性を持つ複数の物理チャネルを出力する。
単一ステップのトレーニング損失から長期ロールアウトやチャネル単位のメトリクスまで,自動回帰天気予報のためのニューラルスケーリング分析を拡張した。
本研究では,(1)チャネル間の予測誤差の分布と,その成長速度が予測地平線とともにどのように変化するか,(2) 誤差がグローバルにプールされた場合のロールアウト長に対して,電力法スケーリングがテスト誤差を抑える場合,(3) パラメータ,データ,計算ベースのスケーリング軸の水平線とチャネルにどのように適合するかを定量化する。
プールドスケーリングは望ましいように見えるが、多くのチャネルは遅延リードで劣化する。
本稿では,重み付け対象,地平線対応カリキュラム,出力間の資源配分について論じる。
関連論文リスト
- Long-Time Trajectory Approximation via SA-NODEs: Model Predictive and Floquet Strategies [0.49655032077676126]
半自律型ニューラル常微分方程式(SA-NODE)による力学系の長期水平線上での近似について検討した。
地平線全体をトレーニングした単一ネットワークの場合、利用可能な誤差境界は地平線長で指数関数的に2倍に低下する。
この障壁を避けるための2つのトレーニング戦略を開発し、それぞれが状態のリセットの上に構築されます。
論文 参考訳(メタデータ) (2026-08-11T09:55:54Z) - Nipping the Butterfly Effect in the Bud: Self-Output Fine-Tuning for Autoregressive Weather Prediction [7.601516977968089]
本稿では, 理論的および経験的両視点から, 誤差成長現象を考察する。
解析の結果,出力誤差と入力分布シフトの間のフィードバックループによって成長が促進されることが判明した。
この問題を軽減するために,モデル自体のワンステップ予測を活用するプラグイン・アンド・プレイ戦略である textbfSelf-Output Fine-Tuning (SOFT) を提案する。
論文 参考訳(メタデータ) (2026-07-23T09:10:11Z) - When Do Autoregressive Sequence Models Forecast Physical Wavefields? A Controlled Study on Synthetic Seismograms [43.8784307709823]
物理信号の長距離自己回帰予測は誤差蓄積によって制限される。
物理的に構造化されたテストベッドとして,合成3成分地震計を用いて,このようなロールアウトが安定であるかどうかを問う。
論文 参考訳(メタデータ) (2026-06-09T13:46:14Z) - FEG-Pro: Forecast-Error Growth Profiling for Finite-Horizon Instability Analysis of Nonlinear Time Series [0.0]
非線形スカラー時系列の予測エラー成長プロファイリングフレームワークであるFEG-Proを提案する。
本手法は, 自己相関誘導スパース履歴を構築し, 距離重み付きk-ネアレスト近傍のマルチホライゾン予測を行い, 幾何平均予測誤差の対数成長を解析する。
このパイプラインは、符号付き多重水平誤差から、形式的な適合選択規則、曲率、二次変形後の粗さ、単調性、予測エラー分布エントロピー(FEDE)も抽出する。
論文 参考訳(メタデータ) (2026-05-17T06:38:37Z) - Adaptive Spectral Feature Forecasting for Diffusion Sampling Acceleration [58.19554276924402]
スペクトル拡散特徴予測器(Spectrum)を提案する。
我々はFLUX.1で4.79$times$スピードアップ、Wan2.1-14Bで4.67$times$スピードアップを達成する。
論文 参考訳(メタデータ) (2026-03-02T08:59:11Z) - Deep Time-series Forecasting Needs Kernelized Moment Balancing [56.619037429652984]
深層時系列予測は、予測と地上の真実の分布を整合させることを目的とした分布バランス問題として定式化することができる。
我々は、カーネル化されたモーメントバランス(KMB-DF)による直接予測を提案する。
複数のモデルとデータセットにわたる実験により、KMB-DFは予測精度を一貫して改善し、最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2026-01-31T13:20:18Z) - Tackling Incomplete Data in Air Quality Prediction: A Bayesian Deep Learning Framework for Uncertainty Quantification [6.665519965608339]
本研究は,リアルタイム車載モバイル監視など,新興センシングパラダイムにおける不完全な観察を伴って,信頼度の高い深層学習に基づく時間的予測の基礎を築いた。
論文 参考訳(メタデータ) (2025-11-04T01:42:00Z) - S$^2$Transformer: Scalable Structured Transformers for Global Station Weather Forecasting [67.93713728260646]
既存の時系列予測手法は、大規模なグローバルステーション予測を行う際に、空間的相関を無視または一方向的にモデル化することが多い。
これは、予測性能を制限する地球規模の気象システムの観測の根底にある性質と矛盾する。
本稿では,構造的空間的注意を新たに提案する。
空間グラフを一連のサブグラフに分割し、サブグラフ内の注意をインスタンス化し、各サブグラフ内の局所的な空間相関を学習する。
ノードをサブグラフ間のメッセージパッシングのためのサブグラフ表現に集約する。
論文 参考訳(メタデータ) (2025-09-10T05:33:28Z) - Data-Driven Forecasting of High-Dimensional Transient and Stationary Processes via Space-Time Projection [0.0]
時空間投影(STP)は,高次元および時間分解データに対するデータ駆動予測手法として導入された。
この方法は、後流と予測間隔の両方からなる予測水平線にまたがるトレーニングデータから、拡張時空間固有モードを算出する。
論文 参考訳(メタデータ) (2025-03-31T03:36:59Z) - Understanding Warmup-Stable-Decay Learning Rates: A River Valley Loss Landscape Perspective [66.80315289020487]
Warmup-Stable-Decay (WSD) スケジュールは、一定の学習率を使用して、所定の計算予算なしで無限に継続できるイテレーションのメインブランチを生成する。
プレトレーニング損失は,河底に川がある深い谷に類似した河谷景観を呈することを示す。
この理論にインスパイアされたWSD-Sは、従来のチェックポイントの崩壊フェーズを再利用し、メインブランチを1つだけ保持するWSDの変種である。
論文 参考訳(メタデータ) (2024-10-07T16:49:39Z) - From Reactive to Proactive Volatility Modeling with Hemisphere Neural Networks [0.0]
我々は,新しいニューラルネットワークアーキテクチャを用いて,マクロ経済密度予測のための最大推定値(MLE)を再活性化する。
ヘミスフィアニューラルネットワーク(HNN)は、可能時の主指標に基づく積極的なボラティリティ予測と、必要時の過去の予測誤差の大きさに基づく反応性ボラティリティ予測を提供する。
論文 参考訳(メタデータ) (2023-11-27T21:37:50Z) - Building Autocorrelation-Aware Representations for Fine-Scale
Spatiotemporal Prediction [1.2862507359003323]
本稿では,空間統計理論をニューラルネットワークに組み込んだ新しいディープラーニングアーキテクチャを提案する。
DeepLATTEには、局所的自己相関パターンとグローバルな自己相関傾向の両方を強制する、自己相関誘導半教師付き学習戦略が含まれている。
我々は,DeepLATTEの公開データを用いた実演を行い,健康上の重要なトピックとして,高度に適合した複雑な物理環境下での空気質予測を行った。
論文 参考訳(メタデータ) (2021-12-10T03:21:19Z) - Critical Parameters for Scalable Distributed Learning with Large Batches
and Asynchronous Updates [67.19481956584465]
飽和を伴う分散トレーニング(SGD)の効率は、バッチサイズと、実装における停滞に決定的に依存することが実験的に観察されている。
結果がタイトであることを示し、数値実験で重要な結果を示しています。
論文 参考訳(メタデータ) (2021-03-03T12:08:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。