Fugu-MT 論文翻訳(概要): Global Attention with Linear Complexity for Exascale Generative Data Assimilation in Earth System Prediction

論文の概要: Global Attention with Linear Complexity for Exascale Generative Data Assimilation in Earth System Prediction

arxiv url: http://arxiv.org/abs/2604.16590v1
Date: Fri, 17 Apr 2026 17:20:33 GMT
ステータス: 翻訳完了
システム内更新日: 2026-04-21 21:52:52.096209
Title: Global Attention with Linear Complexity for Exascale Generative Data Assimilation in Earth System Prediction
Title（参考訳）: 地球系予測における大規模生成データ同化のための線形複雑度によるグローバルアテンション
Authors: Xiao Wang, Zezhong Zhang, Isaac Lyngaas, Hong-Jun Yoon, Jong-Youl Choi, Siming Liang, Janet Wang, Hristo G. Chipilski, Ashwin M. Aji, Feng Bao, Peter Jan van Leeuwen, Dan Lu, Guannan Zhang,
Abstract要約: 本稿では,同化を後続サンプリングとして再構成する一段階生成DAフレームワークを提案する。中心となるSTORMは、グローバルアテンションの線形複雑度スケーリングアルゴリズムを備えた、二次アテンション障壁を破る新しいトランスフォーマーである。さらに、200億の時間トークンにスケールし、以前は到達不可能だった177万の時間フレーム上で、スケーラブルなグローバルなモデリングレギュレーションを可能にします。
参考スコア（独自算出の注目度）: 9.39184913345145
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Accurate weather and climate prediction relies on data assimilation (DA), which estimates the Earth system state by integrating observations with models. While exascale computing has significantly advanced earth simulation, scalable and accurate inference of the Earth system state remains a fundamental bottleneck, limiting uncertainty quantification and prediction of extreme events. We introduce a unified one-stage generative DA framework that reformulates assimilation as Bayesian posterior sampling, replacing the conventional forecast-update cycle with compute-dense, GPU-efficient inference. At the core is STORM, a novel spatiotemporal transformer with a global attention linear-complexity scaling algorithm that breaks the quadratic attention barrier. On 32,768 GPUs of the Frontier supercomputer, our method achieves 63% strong scaling efficiency and 1.6 ExaFLOP sustained performance. We further scale to 20 billion spatiotemporal tokens, enabling km-scale global modeling over 177k temporal frames, regimes previously unreachable, establishing a new paradigm for Earth system prediction.
Abstract（参考訳）: 正確な気象と気候予測はデータ同化(DA)に依存しており、観測とモデルを統合することで地球系の状態を推定している。エクサスケールコンピューティングは地球シミュレーションを著しく進歩させてきたが、地球のシステム状態のスケーラブルで正確な推測は根本的ボトルネックであり、不確実な定量化と極端な事象の予測を制限している。本稿では,従来の予測更新サイクルを計算密度,GPU効率の予測に置き換え,ベイジアン後方サンプリングと同化を再構成する一段階生成DAフレームワークを提案する。中心となるSTORMは、グローバルアテンション線形複雑度スケーリングアルゴリズムを備えた2次アテンション障壁を破る新しい時空間変圧器である。また,Frontierスーパーコンピュータの32,768GPUでは,63%のスケーリング効率と1.6 ExaFLOPの持続性能を実現している。我々はさらに200億の時空間トークンをスケールし、177万の時空間フレーム上のkmスケールのグローバルモデリングを可能にした。

関連論文リスト

Searth Transformer: A Transformer Architecture Incorporating Earth's Geospheric Physical Priors for Global Mid-Range Weather Forecasting [23.666628869892737]
YanTianは、世界規模の中距離気象予報モデルである。欧州中レージ気象予報センターの高解像度予測よりも精度が高い。計算コストは通常の自己回帰微調整の約200倍のコストがかかる。
論文参考訳（メタデータ） (2026-01-14T13:20:17Z)
DAWP: A framework for global observation forecasting via Data Assimilation and Weather Prediction in satellite observation space [60.729377189859]
完全な観測空間でAIWPを動作させるためのDAWPフレームワークを提案する。 AIDAモジュールは、不規則な衛星観測トークンを同化するためにマスク多モードオートエンコーダを適用している。我々はAIDAがAIWPのロールアウトと効率を大幅に改善し、地球規模の降水分解予測に適用できる有望な可能性を秘めていることを示す。
論文参考訳（メタデータ） (2025-10-13T03:13:35Z)
FourCastNet 3: A geometric approach to probabilistic machine-learning weather forecasting at scale [91.84761739154366]
FourCastNet 3は、確率的アンサンブル予測にスケーラブルで幾何学的な機械学習(ML)アプローチを実装することで、グローバルな気象モデリングを推進している。 FourCastNet 3は、従来のアンサンブルモデルを上回る予測精度を提供し、最良の拡散ベースのメソッドに匹敵する。その計算効率、中距離確率的スキル、スペクトルの忠実度、およびサブシーズンタイムスケールでのロールアウト安定性は、大規模なアンサンブル予測を通じて気象予知と早期警報システムを改善するための強力な候補となる。
論文参考訳（メタデータ） (2025-07-16T11:22:18Z)
Advanced long-term earth system forecasting by learning the small-scale nature [74.19833913539053]
私たちは、この根本的な課題に対処するために設計されたAIフレームワークであるTritonを紹介します。数値モデルにおける小さなスケールを明示的に解決するグリッドの増加に触発されたTritonは、スペクトルバイアスを軽減するために、複数の解像度にわたって階層的なアーキテクチャ処理情報を使用する。我々は,トライトンによる挑戦的な予測課題における優れた性能,安定な1年間の世界気温予測,120日間の熟練した黒潮渦予測,高忠実乱流シミュレーションを実証した。
論文参考訳（メタデータ） (2025-05-26T02:49:00Z)
OneForecast: A Universal Framework for Global and Regional Weather Forecasting [67.61381313555091]
本稿では,グラフニューラルネットワークに基づくグローバルなネスト型気象予報フレームワーク(OneForecast)を提案する。動的システムパースペクティブとマルチグリッド理論を組み合わせることで,マルチスケールグラフ構造を構築し,対象領域を密度化する。動的ゲーティングユニットを用いた適応型メッセージング機構を導入し,ノードとエッジ機能を深く統合し,より正確なイベント予測を行う。
論文参考訳（メタデータ） (2025-02-01T06:49:16Z)
A Scalable Real-Time Data Assimilation Framework for Predicting Turbulent Atmosphere Dynamics [8.012940782999975]
我々は,汎用リアルタイムデータ同化フレームワークを導入し,そのエンドツーエンド性能をFrontierスーパーコンピュータ上で実証する。このフレームワークは、アンサンブルスコアフィルタ(EnSF)とビジョントランスフォーマーベースのサロゲートの2つの主要モジュールから構成される。 ExascaleスーパーコンピュータであるFrontier上では、私たちのフレームワークの強いスケーリングと弱いスケーリングの両方を1024GPUで実証しています。
論文参考訳（メタデータ） (2024-07-16T20:44:09Z)
ORBIT: Oak Ridge Base Foundation Model for Earth System Predictability [10.88886669820126]
我々はOak Ridge Base Foundation Model for Earth System Predictability (ORBIT)を紹介する。 ORBITは、その種の最大のモデルであり、現在の気候AIファンデーションモデルサイズを1000倍に超えている。 Frontierスーパーコンピュータの性能スケーリングテストでは、ORBITは684ペタFLOPSから1.6ペタFLOPSの持続スループットを達成した。
論文参考訳（メタデータ） (2024-04-23T03:39:57Z)
Towards an end-to-end artificial intelligence driven global weather forecasting system [57.5191940978886]
我々は,地球規模の気象変動に対するAIに基づくデータ同化モデル,すなわちAdasを提案する。我々は,アダスが地球観測を同化して高品質な分析を行い,長期にわたって安定して運用できることを実証した。この手法を現実のシナリオに適用するのは,私たちが初めてです。
論文参考訳（メタデータ） (2023-12-18T09:05:28Z)
Residual Corrective Diffusion Modeling for Km-scale Atmospheric Downscaling [58.456404022536425]
気象・気候からの物理的危険予知技術の現状には、粗い解像度のグローバルな入力によって駆動される高価なkmスケールの数値シミュレーションが必要である。ここでは、コスト効率のよい機械学習代替手段として、このようなグローバルな入力をkmスケールにダウンスケールするために、生成拡散アーキテクチャを探索する。このモデルは、台湾上空の地域気象モデルから2kmのデータを予測するために訓練され、世界25kmの再解析に基づいている。
論文参考訳（メタデータ） (2023-09-24T19:57:22Z)
Earthformer: Exploring Space-Time Transformers for Earth System Forecasting [27.60569643222878]
本研究では,地球系予測のための時空間変圧器である地球変圧器を提案する。 Transformerは、Cuboid Attentionという、汎用的で柔軟で効率的な時空アテンションブロックに基づいている。降水量計に関する2つの実世界のベンチマークとエルニーノ/サウス・テンポシエーションの実験は、アースフォーマーが最先端のパフォーマンスを達成したことを示している。
論文参考訳（メタデータ） (2022-07-12T20:52:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。