Fugu-MT 論文翻訳(概要): W-MAE: Pre-trained weather model with masked autoencoder for multi-variable weather forecasting

論文の概要: W-MAE: Pre-trained weather model with masked autoencoder for multi-variable weather forecasting

arxiv url: http://arxiv.org/abs/2304.08754v2
Date: Fri, 15 Dec 2023 17:34:36 GMT
ステータス: 処理完了
システム内更新日: 2023-12-18 19:32:42.827915
Title: W-MAE: Pre-trained weather model with masked autoencoder for multi-variable weather forecasting
Title（参考訳）: w-mae:マルチ変数天気予報のためのマスク付きオートエンコーダによる事前学習型気象モデル
Authors: Xin Man, Chenghong Zhang, Jin Feng, Changyu Li, Jie Shao
Abstract要約: 天気予報のための事前学習を行うMasked AutoEncoderを用いた気象モデルを提案する。 W-MAEは、気象変数内の空間的相関を再構成するために、自己教師付きで事前訓練される。時間スケールでは、事前訓練されたW-MAEを微調整し、気象変数の将来状態を予測する。
参考スコア（独自算出の注目度）: 7.610811907813171
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Weather forecasting is a long-standing computational challenge with direct societal and economic impacts. This task involves a large amount of continuous data collection and exhibits rich spatiotemporal dependencies over long periods, making it highly suitable for deep learning models. In this paper, we apply pre-training techniques to weather forecasting and propose W-MAE, a Weather model with Masked AutoEncoder pre-training for weather forecasting. W-MAE is pre-trained in a self-supervised manner to reconstruct spatial correlations within meteorological variables. On the temporal scale, we fine-tune the pre-trained W-MAE to predict the future states of meteorological variables, thereby modeling the temporal dependencies present in weather data. We conduct our experiments using the fifth-generation ECMWF Reanalysis (ERA5) data, with samples selected every six hours. Experimental results show that our W-MAE framework offers three key benefits: 1) when predicting the future state of meteorological variables, the utilization of our pre-trained W-MAE can effectively alleviate the problem of cumulative errors in prediction, maintaining stable performance in the short-to-medium term; 2) when predicting diagnostic variables (e.g., total precipitation), our model exhibits significant performance advantages over FourCastNet; 3) Our task-agnostic pre-training schema can be easily integrated with various task-specific models. When our pre-training framework is applied to FourCastNet, it yields an average 20% performance improvement in Anomaly Correlation Coefficient (ACC).
Abstract（参考訳）: 天気予報は社会と経済の直接的な影響を伴う長年の計算課題である。このタスクは大量の連続データ収集を伴い、長期間にわたって豊富な時空間依存性を示し、ディープラーニングモデルに非常に適しています。本稿では,気象予報に事前学習技術を適用し,気象予報のためのMasked AutoEncoderを用いた気象モデルW-MAEを提案する。 W-MAEは、気象変数内の空間的相関を再構成するために、自己教師付きで事前訓練される。時間スケールでは、事前訓練したW-MAEを微調整し、気象変数の将来の状態を予測し、気象データに存在する時間依存性をモデル化する。我々は,第5世代ECMWFリアナリシス(ERA5)データを用いて,試料を6時間毎に選択した。実験の結果、w-maeフレームワークには3つの大きなメリットがあります。 1)気象変数の将来状態を予測する場合,事前訓練されたw-maeの利用は,予測における累積誤差の問題を効果的に軽減することができる。 2) 診断変数(例えば総降水量)の予測では,FourCastNetよりも優れた性能を示す。 3)タスクに依存しない事前学習スキーマは,タスク固有のモデルと容易に統合できる。予備学習フレームワークを FourCastNet に適用すると,Anomaly correlation Coefficient (ACC) における平均20%の性能向上が得られる。

関連論文リスト

ExtremeCast: Boosting Extreme Value Prediction for Global Weather Forecast [61.138475638813354]
非対称な最適化を行い、極端な天気予報を得るために極端な値を強調する新しい損失関数であるExlossを導入する。また,ExEnsembleという名称のトレーニングフリーな極値拡張戦略を導入し,画素値のばらつきを増大させ,予測ロバスト性を向上させる。提案手法は,上位中距離予測モデルに匹敵する全体的な予測精度を維持しつつ,極端気象予測における最先端性能を達成することができる。
論文参考訳（メタデータ） (2024-02-02T10:34:13Z)
FengWu-4DVar: Coupling the Data-driven Weather Forecasting Model with 4D Variational Assimilation [71.21242137496031]
我々は,AIを用いた循環型天気予報システムFengWu-4DVarを開発した。 FengWu-4DVarは観測データをデータ駆動の天気予報モデルに組み込むことができる。シミュレーションされた観測データセットの実験は、FengWu-4DVarが合理的な解析場を生成することができることを示した。
論文参考訳（メタデータ） (2023-12-16T02:07:56Z)
Scaling transformer neural networks for skillful and reliable medium-range weather forecasting [24.02355555479722]
本稿では,標準変圧器バックボーンの変更を最小限に抑えつつ,気象予報の最先端性能であるStormerを紹介する。 Stormerの中核はランダムな予測目標であり、様々な時間間隔で天気のダイナミクスを予測するためにモデルを訓練する。ウェザーベンチ2では、ストーマーは短距離から中距離の予測で競争力を発揮し、現在の手法を7日を超えて上回っている。
論文参考訳（メタデータ） (2023-12-06T19:46:06Z)
Residual Diffusion Modeling for Km-scale Atmospheric Downscaling [51.061954281398116]
台湾上空2kmの高解像度気象モデルを用いて,コスト効率の低いダウンスケーリングモデルを訓練した。 textitCorrDiffは、RMSEとCRPSを巧みに表現し、極端な場合でもスペクトルと分布を忠実に回復する。グローバルな予測のスケールダウンは、これらのメリットの多くを成功裏に維持し、マシンラーニングの天気予報のエンドツーエンドなグローバルなスケールの可能性を先導する。
論文参考訳（メタデータ） (2023-09-24T19:57:22Z)
Long-term drought prediction using deep neural networks based on geospatial weather data [78.63225885697149]
農業計画や保険には1年前から予測される高品質の干ばつが不可欠だ。多様な時間的ニューラルネットワークモデルを用いたエンドツーエンドアプローチを導入することで、干ばつデータに対処する。主な発見は、TransformerモデルであるEarthFormerが、正確な短期(最大6ヶ月)の予測を行う際の例外的なパフォーマンスである。
論文参考訳（メタデータ） (2023-09-12T13:28:06Z)
Precipitation nowcasting with generative diffusion models [0.0]
降水処理における拡散モデルの有効性について検討した。本研究は, 確立されたU-Netモデルの性能と比較したものである。
論文参考訳（メタデータ） (2023-08-13T09:51:16Z)
Pangu-Weather: A 3D High-Resolution Model for Fast and Accurate Global Weather Forecast [91.9372563527801]
我々は,世界天気予報を迅速かつ高精度に予測するためのディープラーニングベースのシステムであるPangu-Weatherを紹介する。初めてAIベースの手法が、最先端の数値天気予報法(NWP)を精度で上回った。 Pangu-Weatherは、極端な天気予報や大規模なアンサンブル予測など、幅広い下流予測シナリオをサポートしている。
論文参考訳（メタデータ） (2022-11-03T17:19:43Z)
A case study of spatiotemporal forecasting techniques for weather forecasting [0.0]
本稿では,地域データによる気象予報の様々な手法,すなわち時間的相関を捉えるために,複数の経度点にまたがる予測手法について検討する。その結果, 列車の動的分解モードに基づく予測モデルでは, トレーニングを必要とせず, ほぼ同等の精度で予測できることがわかった。
論文参考訳（メタデータ） (2022-09-29T13:47:02Z)
SwinVRNN: A Data-Driven Ensemble Forecasting Model via Learned Distribution Perturbation [16.540748935603723]
本研究では,SwinRNN予測器と摂動モジュールを組み合わせた天気予報モデルであるSwinVRNNを提案する。 SwinVRNNはECMWF統合予測システム(IFS)を2m温度と6時間総降水量で最大5日間のリードタイムで上回っている。
論文参考訳（メタデータ） (2022-05-26T05:11:58Z)
A generative adversarial network approach to (ensemble) weather prediction [91.3755431537592]
本研究では,500hPaの圧力レベル,2m温度,24時間の総降水量を予測するために,条件付き深部畳み込み生成対向ネットワークを用いた。提案されたモデルは、2019年に関連する気象分野を予測することを目的として、2015年から2018年までの4年間のERA5の再分析データに基づいて訓練されている。
論文参考訳（メタデータ） (2020-06-13T20:53:17Z)
A framework for probabilistic weather forecast post-processing across models and lead times using machine learning [3.1542695050861544]
我々はNWPモデルと意思決定支援の「理想的な」予測とのギャップを埋める方法について述べる。本研究では,各数値モデルの誤差プロファイルの学習にQuantile Regression Forestsを使用し,これを経験から得られた確率分布を予測に適用する。第2に、これらの確率予測を量子平均化(quantile averaging)を用いて組み合わせ、第3に、集合量子化の間で補間して完全な予測分布を生成する。
論文参考訳（メタデータ） (2020-05-06T16:46:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。