論文の概要: WeatherFormer: Empowering Global Numerical Weather Forecasting with Space-Time Transformer

• arxiv url: http://arxiv.org/abs/2409.16321v1
• Date: Sat, 21 Sep 2024 07:02:31 GMT
• ステータス: 処理完了
• システム内更新日: 2024-09-27 09:03:58.411944
• Title: WeatherFormer: Empowering Global Numerical Weather Forecasting with Space-Time Transformer
• Title（参考訳）: 気象予報システム「WeatherFormer」
• Authors: Junchao Gong, Tao Han, Kang Chen, Lei Bai,
• Abstract要約: 数値気象予報システム (NWP) は近代社会に多大な影響を与えるインフラである。 従来のNWPは、複雑な偏微分方程式を巨大な計算クラスターで解き、大量の二酸化炭素を放出する。 この研究は、複雑な時間的大気力学をモデル化するための新しいトランスフォーマーベースのNWPフレームワークであるWeatherFormerを提案する。
• 参考スコア（独自算出の注目度）: 18.1906457042669
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Numerical Weather Prediction (NWP) system is an infrastructure that exerts considerable impacts on modern society.Traditional NWP system, however, resolves it by solving complex partial differential equations with a huge computing cluster, resulting in tons of carbon emission. Exploring efficient and eco-friendly solutions for NWP attracts interest from Artificial Intelligence (AI) and earth science communities. To narrow the performance gap between the AI-based methods and physic predictor, this work proposes a new transformer-based NWP framework, termed as WeatherFormer, to model the complex spatio-temporal atmosphere dynamics and empowering the capability of data-driven NWP. WeatherFormer innovatively introduces the space-time factorized transformer blocks to decrease the parameters and memory consumption, in which Position-aware Adaptive Fourier Neural Operator (PAFNO) is proposed for location sensible token mixing. Besides, two data augmentation strategies are utilized to boost the performance and decrease training consumption. Extensive experiments on WeatherBench dataset show WeatherFormer achieves superior performance over existing deep learning methods and further approaches the most advanced physical model.
• Abstract（参考訳）: 数値気象予測システム(NWP)は,現代社会に多大な影響を与えるインフラであり,複雑な偏微分方程式を巨大な計算クラスタで解き,大量の二酸化炭素を排出する。 NWPの効率的でエコフレンドリーなソリューションの探索は、人工知能(AI)や地球科学コミュニティから関心を集めている。 この研究は、AIベースの手法と物理予測器のパフォーマンスギャップを狭めるために、複雑な時空間空気力学をモデル化し、データ駆動型NWPの能力を高めるために、WeatherFormerと呼ばれる新しいトランスフォーマーベースのNWPフレームワークを提案する。 WeatherFormerは、位置認識型適応フーリエニューラル演算子(PAFNO)が位置認識可能なトークン混合のために提案されるパラメータとメモリ消費を削減するために、時空分解トランスフォーマーブロックを革新的に導入する。 さらに、2つのデータ拡張戦略を使用して、パフォーマンスを高め、トレーニング消費を減少させる。 WeatherBenchデータセットの大規模な実験は、WeatherFormerが既存のディープラーニング手法よりも優れたパフォーマンスを達成し、さらに高度な物理モデルにアプローチしていることを示している。

関連論文リスト

• Community Research Earth Digital Intelligence Twin (CREDIT) [0.0]
  NSF NCAR で開発された Community Research Earth Digital Intelligence Twin (CREDIT) フレームワークを紹介する。 CREDITは、AIベースの大気モデルのトレーニングとデプロイのための、柔軟でスケーラブルでユーザフレンドリなプラットフォームを提供する。 We demonstrate CREDIT’s potential through WXFormer, a novel deterministic vision transformer designed to predict atmosphere state autoregressive。
  論文  参考訳（メタデータ） (2024-11-09T03:08:03Z)
• Efficient Localized Adaptation of Neural Weather Forecasting: A Case Study in the MENA Region [62.09891513612252]
  地域レベルのダウンストリームタスクに特化して、リミテッド・エリア・モデリングに焦点を合わせ、モデルをトレーニングします。 我々は,気象予報が水資源の管理,農業,極度の気象事象の影響軽減に重要であるという,気象学的課題からMENA地域を考察する。 本研究では,パラメータ効率のよい微調整手法,特にローランド適応(LoRA)とその変種を統合することの有効性を検証することを目的とした。
  論文  参考訳（メタデータ） (2024-09-11T19:31:56Z)
• LightWeather: Harnessing Absolute Positional Encoding to Efficient and Scalable Global Weather Forecasting [21.048535830456363]
  絶対的な位置符号化がTransformerベースの天気予報モデルで実際に機能していることが示される。 本稿では,測候の軽量かつ効果的なモデルであるLightWeatherを提案する。
  論文  参考訳（メタデータ） (2024-08-19T04:23:40Z)
• SFANet: Spatial-Frequency Attention Network for Weather Forecasting [54.470205739015434]
  天気予報は様々な分野において重要な役割を担い、意思決定とリスク管理を推進している。 伝統的な手法は、しばしば気象系の複雑な力学を捉えるのに苦労する。 本稿では,これらの課題に対処し,天気予報の精度を高めるための新しい枠組みを提案する。
  論文  参考訳（メタデータ） (2024-05-29T08:00:15Z)
• Generalizing Weather Forecast to Fine-grained Temporal Scales via Physics-AI Hybrid Modeling [55.13352174687475]
  本稿では,天気予報をより微細なテンポラルスケールに一般化する物理AIハイブリッドモデル(WeatherGFT)を提案する。 具体的には、小さな時間スケールで物理進化をシミュレートするために、慎重に設計されたPDEカーネルを用いる。 我々は、異なるリードタイムでのモデルの一般化を促進するためのリードタイムアウェアトレーニングフレームワークを導入する。
  論文  参考訳（メタデータ） (2024-05-22T16:21:02Z)
• ClimODE: Climate and Weather Forecasting with Physics-informed Neural ODEs [14.095897879222676]
  統計力学の重要な原理を実装した連続時間プロセスであるClimODEを提案する。 ClimODEは、値保存ダイナミクスによる正確な気象進化をモデル化し、ニューラルネットワークとしてグローバルな気象輸送を学習する。 提案手法は,大域的,地域的予測において,パラメータ化の桁違いで既存のデータ駆動手法より優れる。
  論文  参考訳（メタデータ） (2024-04-15T06:38:21Z)
• Spherical Fourier Neural Operators: Learning Stable Dynamics on the Sphere [53.63505583883769]
  球面幾何学の演算子を学習するための球面FNO(SFNO)を紹介する。 SFNOは、気候力学の機械学習に基づくシミュレーションに重要な意味を持つ。
  論文  参考訳（メタデータ） (2023-06-06T16:27:17Z)
• Long-term Wind Power Forecasting with Hierarchical Spatial-Temporal Transformer [112.12271800369741]
  風力発電は、再生可能、汚染のないその他の利点により、世界中の注目を集めている。 正確な風力発電予測(WPF)は、電力系統の運用における電力変動を効果的に低減することができる。 既存の手法は主に短期的な予測のために設計されており、効果的な時空間的特徴増強が欠如している。
  論文  参考訳（メタデータ） (2023-05-30T04:03:15Z)
• ClimaX: A foundation model for weather and climate [51.208269971019504]
  ClimaXは気象と気候科学のディープラーニングモデルである。 気候データセットの自己教師型学習目標で事前トレーニングすることができる。 気候や気候の様々な問題に対処するために、微調整が可能である。
  論文  参考訳（メタデータ） (2023-01-24T23:19:01Z)
• Benchmark Dataset for Precipitation Forecasting by Post-Processing the Numerical Weather Prediction [11.52104902059751]
  スタンドアロンNWPとDLのギャップを埋めるためのハイブリッドNWP-DLワークフローを提案する。 このワークフローでは、NWP出力を深いモデルに入力し、データを後処理して洗練された降水予測を生成する。 我々は,NWP予測とAWS観測による朝鮮半島の新たなデータセットを提案する。
  論文  参考訳（メタデータ） (2022-06-30T12:41:32Z)
• Improving data-driven global weather prediction using deep convolutional neural networks on a cubed sphere [7.918783985810551]
  深層畳み込みニューラルネットワーク(CNN)を用いたデータ駆動型世界天気予報フレームワークを提案する。 このフレームワークの新しい開発には、オフラインの体積保存的マッピングから立方体球格子へのマッピングが含まれる。 我々のモデルでは、入力された大気状態の少ない変数から複雑な表面温度パターンを予測することができる。
  論文  参考訳（メタデータ） (2020-03-15T19:57:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。