論文の概要: STC-ViT: Spatio Temporal Continuous Vision Transformer for Weather Forecasting

• arxiv url: http://arxiv.org/abs/2402.17966v3
• Date: Thu, 31 Oct 2024 00:05:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-01 16:57:09.290721
• Title: STC-ViT: Spatio Temporal Continuous Vision Transformer for Weather Forecasting
• Title（参考訳）: STC-ViT:気象予報用時空間連続視変換器
• Authors: Hira Saleem, Flora Salim, Cormac Purcell,
• Abstract要約: 天気予報のための時空間連続トランスフォーマービジョンであるSTC-ViTを提案する。 STC-ViTは、連続した天気変化を時間とともに学習するために、マルチヘッドアテンション機構を備えた連続時間ニューラルODE層を組み込んでいる。 STC-ViTは,操作型数値天気予報(NWP)モデルと,深層学習に基づく天気予報モデルとを比較した。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: Operational weather forecasting system relies on computationally expensive physics-based models. Recently, transformer based models have shown remarkable potential in weather forecasting achieving state-of-the-art results. However, transformers are discrete and physics-agnostic models which limit their ability to learn the continuous spatio-temporal features of the dynamical weather system. We address this issue with STC-ViT, a Spatio-Temporal Continuous Vision Transformer for weather forecasting. STC-ViT incorporates the continuous time Neural ODE layers with multi-head attention mechanism to learn the continuous weather evolution over time. The attention mechanism is encoded as a differentiable function in the transformer architecture to model the complex weather dynamics. Further, we define a customised physics informed loss for STC-ViT which penalize the model's predictions for deviating away from physical laws. We evaluate STC-ViT against operational Numerical Weather Prediction (NWP) model and several deep learning based weather forecasting models. STC-ViT, trained on 1.5-degree 6-hourly data, demonstrates computational efficiency and competitive performance compared to state-of-the-art data-driven models trained on higher-resolution data for global forecasting.
• Abstract（参考訳）: 運用上の天気予報システムは計算コストの高い物理モデルに依存している。 近年, 変圧器を用いたモデルでは, 気象予報による最先端の結果が得られている。 しかし、変圧器は離散的で物理に依存しないモデルであり、力学気象系の時空間的連続的な特徴を学習する能力を制限する。 天気予報のための時空間連続視変換器であるSTC-ViTを用いてこの問題に対処する。 STC-ViTは、連続した天気変化を時間とともに学習するために、マルチヘッドアテンション機構を備えた連続時間ニューラルODE層を組み込んでいる。 注意機構は、複雑な気象力学をモデル化するトランスフォーマーアーキテクチャにおける微分可能な関数として符号化される。 さらに、物理法則から逸脱するモデルの予測を罰するSTC-ViTに対して、カスタマイズされた物理情報損失を定義する。 STC-ViTは,操作型数値天気予報(NWP)モデルと,深層学習に基づく天気予報モデルとを比較した。 1.5度の6時間データに基づいてトレーニングされたSTC-ViTは、グローバル予測のための高解像度データに基づいてトレーニングされた最先端のデータ駆動モデルと比較して、計算効率と競争性能を示す。

関連論文リスト

• Multi-Source Temporal Attention Network for Precipitation Nowcasting [4.726419619132143]
  降水量は様々な産業で重要であり、気候変動の緩和と適応に重要な役割を果たしている。 降水量予測のための効率的な深層学習モデルを導入し,既存の運用モデルよりも高い精度で降雨を最大8時間予測する。
  論文  参考訳（メタデータ） (2024-10-11T09:09:07Z)
• Comparing and Contrasting Deep Learning Weather Prediction Backbones on Navier-Stokes and Atmospheric Dynamics [41.00712556599439]
  私たちは、最も顕著なディープラーニング天気予報モデルと背骨を比較し、対比します。 合成2次元非圧縮性ナビエストークスと実世界の気象動態を予測してこれを達成した。 365日間の長距離気象観測では、球面データ表現を定式化するアーキテクチャにおいて、優れた安定性と物理的健全性を観察する。
  論文  参考訳（メタデータ） (2024-07-19T08:59:00Z)
• Physics-guided Active Sample Reweighting for Urban Flow Prediction [75.24539704456791]
  都市フロー予測は、バス、タクシー、ライド駆動モデルといった交通サービスのスループットを見積もる、微妙な時間的モデリングである。 最近の予測解は、物理学誘導機械学習(PGML)の概念による改善をもたらす。 我々は、PN(atized Physics-guided Network)を開発し、P-GASR(Physical-guided Active Sample Reweighting)を提案する。
  論文  参考訳（メタデータ） (2024-07-18T15:44:23Z)
• How far are today's time-series models from real-world weather forecasting applications? [22.68937280154092]
  WEATHER-5Kは、現実世界のシナリオをよりよく反映した観測気象データの包括的収集である。 これにより、モデルのより良いトレーニングと、TSFモデルの現実の予測能力のより正確な評価が可能になる。 我々は,学術的TSFモデルと実世界の天気予報アプリケーションとのギャップを,研究者に明確に評価する。
  論文  参考訳（メタデータ） (2024-06-20T15:18:52Z)
• Generalizing Weather Forecast to Fine-grained Temporal Scales via Physics-AI Hybrid Modeling [55.13352174687475]
  本稿では,天気予報をより微細なテンポラルスケールに一般化する物理AIハイブリッドモデル(WeatherGFT)を提案する。 具体的には、小さな時間スケールで物理進化をシミュレートするために、慎重に設計されたPDEカーネルを用いる。 我々は、異なるリードタイムでのモデルの一般化を促進するためのリードタイムアウェアトレーニングフレームワークを導入する。
  論文  参考訳（メタデータ） (2024-05-22T16:21:02Z)
• ClimODE: Climate and Weather Forecasting with Physics-informed Neural ODEs [14.095897879222676]
  統計力学の重要な原理を実装した連続時間プロセスであるClimODEを提案する。 ClimODEは、値保存ダイナミクスによる正確な気象進化をモデル化し、ニューラルネットワークとしてグローバルな気象輸送を学習する。 提案手法は,大域的,地域的予測において,パラメータ化の桁違いで既存のデータ駆動手法より優れる。
  論文  参考訳（メタデータ） (2024-04-15T06:38:21Z)
• FengWu-4DVar: Coupling the Data-driven Weather Forecasting Model with 4D Variational Assimilation [67.20588721130623]
  我々は,AIを用いた循環型天気予報システムFengWu-4DVarを開発した。 FengWu-4DVarは観測データをデータ駆動の天気予報モデルに組み込むことができる。 シミュレーションされた観測データセットの実験は、FengWu-4DVarが合理的な解析場を生成することができることを示した。
  論文  参考訳（メタデータ） (2023-12-16T02:07:56Z)
• Rethinking Urban Mobility Prediction: A Super-Multivariate Time Series Forecasting Approach [71.67506068703314]
  長期の都市移動予測は、都市施設やサービスの効果的管理において重要な役割を担っている。 伝統的に、都市移動データはビデオとして構成され、経度と緯度を基本的なピクセルとして扱う。 本研究では,都市におけるモビリティ予測の新たな視点について紹介する。 都市移動データを従来のビデオデータとして単純化するのではなく、複雑な時系列と見なす。
  論文  参考訳（メタデータ） (2023-12-04T07:39:05Z)
• ClimaX: A foundation model for weather and climate [51.208269971019504]
  ClimaXは気象と気候科学のディープラーニングモデルである。 気候データセットの自己教師型学習目標で事前トレーニングすることができる。 気候や気候の様々な問題に対処するために、微調整が可能である。
  論文  参考訳（メタデータ） (2023-01-24T23:19:01Z)
• Physics-Inspired Temporal Learning of Quadrotor Dynamics for Accurate Model Predictive Trajectory Tracking [76.27433308688592]
  クオーロタのシステムダイナミクスを正確にモデル化することは、アジャイル、安全、安定したナビゲーションを保証する上で非常に重要です。 本稿では,ロボットの経験から,四重項系の力学を純粋に学習するための新しい物理インスパイアされた時間畳み込みネットワーク(PI-TCN)を提案する。 提案手法は,スパース時間的畳み込みと高密度フィードフォワード接続の表現力を組み合わせて,正確なシステム予測を行う。
  論文  参考訳（メタデータ） (2022-06-07T13:51:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。