Fugu-MT 論文翻訳(概要): Prithvi WxC: Foundation Model for Weather and Climate

論文の概要: Prithvi WxC: Foundation Model for Weather and Climate

arxiv url: http://arxiv.org/abs/2409.13598v1
Date: Fri, 20 Sep 2024 15:53:17 GMT
ステータス: 処理完了
システム内更新日: 2024-11-07 06:19:44.862606
Title: Prithvi WxC: Foundation Model for Weather and Climate
Title（参考訳）: Prithvi WxC:気候と気候の基礎モデル
Authors: Johannes Schmude, Sujit Roy, Will Trojak, Johannes Jakubik, Daniel Salles Civitarese, Shraddha Singh, Julian Kuehnert, Kumar Ankur, Aman Gupta, Christopher E Phillips, Romeo Kienzler, Daniela Szwarcman, Vishal Gaur, Rajat Shinde, Rohit Lal, Arlindo Da Silva, Jorge Luis Guevara Diaz, Anne Jones, Simon Pfreundschuh, Amy Lin, Aditi Sheshadri, Udaysankar Nair, Valentine Anantharaj, Hendrik Hamann, Campbell Watson, Manil Maskey, Tsengdar J Lee, Juan Bernabe Moreno, Rahul Ramachandran,
Abstract要約: Prithvi WxCは、Modern-Era Retrospective Analysis for Research and Applications, Version 2 (MERRA-2)から160変数を用いて開発された23億のパラメータ基盤モデルである。このモデルは、異なる位相の気象現象を微細な解像度でモデル化するために、大きなトークン数に対応できるように設計されている。本稿では, 自動回帰ロールアウト予測, ダウンスケーリング, 重力波フラックスパラメータ化, エクストリームイベント推定など, 課題のある下流タスクのセットでモデルを検証する。
参考スコア（独自算出の注目度）: 2.9230020115516253
License: http://creativecommons.org/licenses/by-nc-nd/4.0/
Abstract: Triggered by the realization that AI emulators can rival the performance of traditional numerical weather prediction models running on HPC systems, there is now an increasing number of large AI models that address use cases such as forecasting, downscaling, or nowcasting. While the parallel developments in the AI literature focus on foundation models -- models that can be effectively tuned to address multiple, different use cases -- the developments on the weather and climate side largely focus on single-use cases with particular emphasis on mid-range forecasting. We close this gap by introducing Prithvi WxC, a 2.3 billion parameter foundation model developed using 160 variables from the Modern-Era Retrospective Analysis for Research and Applications, Version 2 (MERRA-2). Prithvi WxC employs an encoder-decoder-based architecture, incorporating concepts from various recent transformer models to effectively capture both regional and global dependencies in the input data. The model has been designed to accommodate large token counts to model weather phenomena in different topologies at fine resolutions. Furthermore, it is trained with a mixed objective that combines the paradigms of masked reconstruction with forecasting. We test the model on a set of challenging downstream tasks namely: Autoregressive rollout forecasting, Downscaling, Gravity wave flux parameterization, and Extreme events estimation. The pretrained model with 2.3 billion parameters, along with the associated fine-tuning workflows, has been publicly released as an open-source contribution via Hugging Face.
Abstract（参考訳）: AIエミュレータは、HPCシステムで動作する従来の数値天気予報モデルのパフォーマンスに匹敵する可能性があるという認識から、予測、ダウンスケール、あるいは現在のキャストといったユースケースに対処する大規模なAIモデルが増えている。 AI文学における並列的な開発は、複数の異なるユースケースに対応するために効果的に調整可能な基盤モデルに焦点が当てられているが、天気と気候に関する開発は、主に中距離予測に特に重点を置いて、シングルユースケースに焦点を当てている。このギャップを埋めるために、Prithvi WxCというパラメータ基盤モデルを導入する。これは、Modern-Era Retrospective Analysis for Research and Applications, Version 2 (MERRA-2)から160変数を用いて開発された。 Prithvi WxCはエンコーダ-デコーダベースのアーキテクチャを採用し、様々なトランスフォーマーモデルの概念を取り入れて、入力データにおける地域的およびグローバルな依存関係を効果的にキャプチャする。このモデルは、異なる位相の気象現象を微細な解像度でモデル化するために、大きなトークン数に対応できるように設計されている。さらに,マスクを用いた再建と予測のパラダイムを組み合わせた混合目標を用いて訓練を行った。本稿では, 自動回帰ロールアウト予測, ダウンスケーリング, 重力波フラックスパラメータ化, エクストリームイベント推定など, 課題のある下流タスクのセットでモデルを検証する。 2.3億のパラメータを持つ事前トレーニングされたモデルは、関連する微調整ワークフローとともに、Hugging Faceを通じてオープンソースコントリビューションとして公開された。

関連論文リスト

On conditional diffusion models for PDE simulations [53.01911265639582]
スパース観測の予測と同化のためのスコアベース拡散モデルについて検討した。本稿では,予測性能を大幅に向上させる自動回帰サンプリング手法を提案する。また,条件付きスコアベースモデルに対する新たなトレーニング戦略を提案する。
論文参考訳（メタデータ） (2024-10-21T18:31:04Z)
CaFA: Global Weather Forecasting with Factorized Attention on Sphere [7.687215328455751]
本稿では, この問題を緩和するために, 球面測地に適した因子化アテンションモデルを提案する。提案モデルの1.5円および0-7日のリードタイムにおける決定論的予測精度は、最先端のデータ駆動型機械学習天気予報モデルと同等である。
論文参考訳（メタデータ） (2024-05-12T23:18:14Z)
FuXi-ENS: A machine learning model for medium-range ensemble weather forecasting [16.562512279873577]
我々は,最大15日間のグローバルアンサンブル天気予報を実現するために設計された,高度なMLモデルであるFuXi-ENSを紹介する。 FuXi-ENS は空間分解能が 0.25 度大きく向上し、13の圧力レベルで5つの大気変数と13の表面変数が組み込まれている。その結果,FXi-ENSは360変数の98.1%のCRPSと予測リードタイムの組み合わせで,世界有数のNWPモデルであるECMWFのアンサンブル予測よりも優れていた。
論文参考訳（メタデータ） (2024-05-09T17:15:09Z)
Forecasting the Future with Future Technologies: Advancements in Large Meteorological Models [3.332582598089642]
気象予報の分野は、大きなモデルの統合によって大きな変化を遂げた。 FourCastNet、Pangu-Weather、GraphCast、ClimaX、FengWuといったモデルは、正確で高精度な予測を提供することで、顕著な貢献をしている。
論文参考訳（メタデータ） (2024-04-10T00:52:54Z)
Predictive Churn with the Set of Good Models [64.05949860750235]
近似機械学習モデルの集合に対する競合予測の効果について検討する。ラーショモン集合内のモデル間の係り受けに関する理論的結果を示す。当社のアプローチは、コンシューマ向けアプリケーションにおいて、より予測し、削減し、混乱を避けるためにどのように使用できるかを示します。
論文参考訳（メタデータ） (2024-02-12T16:15:25Z)
Weather Prediction with Diffusion Guided by Realistic Forecast Processes [49.07556359513563]
気象予報に拡散モデル(DM)を適用した新しい手法を提案する。提案手法は,同一のモデリングフレームワークを用いて,直接予測と反復予測の両方を実現できる。我々のモデルの柔軟性と制御性は、一般の気象コミュニティにとってより信頼性の高いDLシステムに力を与えます。
論文参考訳（メタデータ） (2024-02-06T21:28:42Z)
FengWu-4DVar: Coupling the Data-driven Weather Forecasting Model with 4D Variational Assimilation [67.20588721130623]
我々は,AIを用いた循環型天気予報システムFengWu-4DVarを開発した。 FengWu-4DVarは観測データをデータ駆動の天気予報モデルに組み込むことができる。シミュレーションされた観測データセットの実験は、FengWu-4DVarが合理的な解析場を生成することができることを示した。
論文参考訳（メタデータ） (2023-12-16T02:07:56Z)
Generalized Mixture Model for Extreme Events Forecasting in Time Series Data [10.542258423966492]
時系列予測(TSF)は、天気予報、交通制御、株価予測など幅広い分野で広く研究されているトピックである。時系列における極端な値は、しばしば人間と自然のシステムに大きな影響を及ぼすが、それらの稀な発生のために予測することは困難である。本稿では,極端事象に着目した新たなフレームワークを提案する。具体的には,時系列予測のためのDeep Extreme Mixture Model with Autoencoder (DEMMA)を提案する。
論文参考訳（メタデータ） (2023-10-11T12:36:42Z)
ClimaX: A foundation model for weather and climate [51.208269971019504]
ClimaXは気象と気候科学のディープラーニングモデルである。気候データセットの自己教師型学習目標で事前トレーニングすることができる。気候や気候の様々な問題に対処するために、微調整が可能である。
論文参考訳（メタデータ） (2023-01-24T23:19:01Z)
Back2Future: Leveraging Backfill Dynamics for Improving Real-time Predictions in Future [73.03458424369657]
公衆衛生におけるリアルタイム予測では、データ収集は簡単で要求の多いタスクである。過去の文献では「バックフィル」現象とそのモデル性能への影響についてはほとんど研究されていない。我々は、与えられたモデルの予測をリアルタイムで洗練することを目的とした、新しい問題とニューラルネットワークフレームワークBack2Futureを定式化する。
論文参考訳（メタデータ） (2021-06-08T14:48:20Z)
A framework for probabilistic weather forecast post-processing across models and lead times using machine learning [3.1542695050861544]
我々はNWPモデルと意思決定支援の「理想的な」予測とのギャップを埋める方法について述べる。本研究では,各数値モデルの誤差プロファイルの学習にQuantile Regression Forestsを使用し,これを経験から得られた確率分布を予測に適用する。第2に、これらの確率予測を量子平均化(quantile averaging)を用いて組み合わせ、第3に、集合量子化の間で補間して完全な予測分布を生成する。
論文参考訳（メタデータ） (2020-05-06T16:46:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。