論文の概要: (Sparse) Attention to the Details: Preserving Spectral Fidelity in ML-based Weather Forecasting Models

• arxiv url: http://arxiv.org/abs/2604.16429v1
• Date: Mon, 06 Apr 2026 08:50:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-04 02:32:13.990286
• Title: (Sparse) Attention to the Details: Preserving Spectral Fidelity in ML-based Weather Forecasting Models
• Title（参考訳）: (少人数)詳細への留意:MLによる天気予報モデルにおけるスペクトル忠実度保存
• Authors: Maksim Zhdanov, Ana Lucic, Max Welling, Jan-Willem van de Meent,
• Abstract要約: 本稿では,MLに基づく天気予報において,スペクトル劣化の2つの主要な原因に対処する確率的天気予報モデルであるMosaicを紹介する。 Mosaicは、学習された機能的摂動を通じてアンサンブルメンバーを生成し、ブロックスパースアテンションを介してネイティブ解像度グリッドで動作する。 モザイクマッチングは、ヘッドライン上空変数の6倍の細かなデータでトレーニングされたモデルよりも優れています。
• 参考スコア（独自算出の注目度）: 34.254800484651575
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We introduce Mosaic, a probabilistic weather forecasting model that addresses two principal sources of spectral degradation in ML-based weather prediction: (1) deterministic training against ensemble means and (2) compressive encoding creating an information bottleneck. Mosaic generates ensemble members through learned functional perturbations and operates on native-resolution grids via block-sparse attention, a hardware-aligned mechanism that captures long-range dependencies at linear cost by sharing keys and values across spatially adjacent queries. At 1.5$°$ resolution with 214M parameters, Mosaic matches or outperforms models trained on 6 times finer data on headline upper-air variables and achieves state-of-the-art results among 1.5$°$ models, producing well-calibrated ensembles whose individual members exhibit near-perfect spectral alignment across all resolved frequencies. A 24-member, 10-day forecast takes under 12 seconds on a single H100 GPU.
• Abstract（参考訳）: 本稿では,MLに基づく天気予報におけるスペクトル劣化の2つの主要な原因に対処する確率的天気予報モデルであるMosaicを紹介し,(1)アンサンブル手段に対する決定論的トレーニングと(2)情報ボトルネックを生成する圧縮符号化を提案する。 Mosaicは、学習した関数摂動を通じてアンサンブルメンバを生成し、ブロックスパースアテンションを介してネイティブ解像度グリッドを操作する。 214Mパラメータによる1.5$°$解像度では、モザイクのマッチまたは性能は、ヘッドライン上空変数の6倍の細かなデータで訓練され、1.5$°$モデルの中で最先端の結果が得られる。 24人のメンバによる10日間の予測は、1つのH100 GPU上で12秒未満である。

関連論文リスト

• Agentic World Modeling for 6G: Near-Real-Time Generative State-Space Reasoning [70.56067503630486]
  第6世代(6G)インテリジェンスは、流動的なトークン予測ではなく、想像と選択の能力を校正している、と我々は主張する。 We showed that WM-MS3M cuts mean absolute error (MAE) by 1.69% vs MS3M with 32% less parameters and similar latency, and achieve a 35-80% lower root mean squared error (RMSE) than attention/hybrid baselines with 2.3-4.1x faster inference。
  論文  参考訳（メタデータ） (2025-11-04T17:22:22Z)
• FourCastNet 3: A geometric approach to probabilistic machine-learning weather forecasting at scale [91.84761739154366]
  FourCastNet 3は、確率的アンサンブル予測にスケーラブルで幾何学的な機械学習(ML)アプローチを実装することで、グローバルな気象モデリングを推進している。 FourCastNet 3は、従来のアンサンブルモデルを上回る予測精度を提供し、最良の拡散ベースのメソッドに匹敵する。 その計算効率、中距離確率的スキル、スペクトルの忠実度、およびサブシーズンタイムスケールでのロールアウト安定性は、大規模なアンサンブル予測を通じて気象予知と早期警報システムを改善するための強力な候補となる。
  論文  参考訳（メタデータ） (2025-07-16T11:22:18Z)
• FuXi-Ocean: A Global Ocean Forecasting System with Sub-Daily Resolution [9.106159985605009]
  FuXi-Oceanは、渦解像1/12deg空間解像度で6時間の予測を達成した最初のデータ駆動型大洋予報モデルである。 モデルアーキテクチャは、コンテキスト認識機能抽出モジュールと、スタックされた注目ブロックを用いた予測ネットワークを統合する。 FuXi-Oceanは、温度、塩分濃度、電流などの重要な変数を複数の深さにわたって予測する優れた技術を示している。
  論文  参考訳（メタデータ） (2025-06-03T00:52:31Z)
• FreqMoE: Enhancing Time Series Forecasting through Frequency Decomposition Mixture of Experts [14.01018670507771]
  本稿では,時系列データを周波数帯域に分解する周波数分解混合(FreqMoE)モデルを提案する。 ゲーティング機構は、周波数特性に基づいて専門家の各出力の重要度を調整する。 FreqMoEは最先端のモデルよりも優れています。
  論文  参考訳（メタデータ） (2025-01-25T08:25:52Z)
• Huge Ensembles Part I: Design of Ensemble Weather Forecasts using Spherical Fourier Neural Operators [1.8631104006124717]
  機械学習を使って、巨大な天気のアンサンブルのヒンドキャストを生成します。 第1部:球状フーリエニューラル演算子(SFNO)に基づくアンサンブル天気予報システムの構築 パートII: MLの極端な天気予報は信頼性と差別性を示す。
  論文  参考訳（メタデータ） (2024-08-06T11:04:25Z)
• Temporal Feature Matters: A Framework for Diffusion Model Quantization [105.3033493564844]
  拡散モデルはマルチラウンド・デノナイジングの時間ステップに依存している。 3つの戦略を含む新しい量子化フレームワークを導入する。 このフレームワークは時間情報のほとんどを保存し、高品質なエンドツーエンド生成を保証する。
  論文  参考訳（メタデータ） (2024-07-28T17:46:15Z)
• Deep Autoregressive Models with Spectral Attention [74.08846528440024]
  本稿では,深部自己回帰モデルとスペクトル注意(SA)モジュールを組み合わせた予測アーキテクチャを提案する。 時系列の埋め込みをランダムなプロセスの発生としてスペクトル領域に特徴付けることにより,グローバルな傾向と季節パターンを同定することができる。 時系列に対するグローバルとローカルの2つのスペクトルアテンションモデルは、この情報を予測の中に統合し、スペクトルフィルタリングを行い、時系列のノイズを除去する。
  論文  参考訳（メタデータ） (2021-07-13T11:08:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。