論文の概要: Conformer: Embedding Continuous Attention in Vision Transformer for Weather Forecasting

• arxiv url: http://arxiv.org/abs/2402.17966v1
• Date: Wed, 28 Feb 2024 01:15:30 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-29 16:43:41.370610
• Title: Conformer: Embedding Continuous Attention in Vision Transformer for Weather Forecasting
• Title（参考訳）: コンフォーマー:天気予報のための視覚変換器の連続的注意を組み込む
• Authors: Hira Saleem, Flora Salim, Cormac Purcell
• Abstract要約: トランスフォーマーベースのモデルは、天気予報に顕著な可能性を示している。 トランスフォーマーは、気象システムの継続的な時間的特徴を学習する能力を制限する離散モデルである。 Conformerは、マルチヘッドアテンション機構に連続性を実装することで、経時的に連続的な天気変化を学習するように設計されている。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Operational weather forecasting system relies on computationally expensive physics-based models. Although Transformers-based models have shown remarkable potential in weather forecasting, Transformers are discrete models which limit their ability to learn the continuous spatio-temporal features of the dynamical weather system. We address this issue with Conformer, a spatio-temporal Continuous Vision Transformer for weather forecasting. Conformer is designed to learn the continuous weather evolution over time by implementing continuity in the multi-head attention mechanism. The attention mechanism is encoded as a differentiable function in the transformer architecture to model the complex weather dynamics. We evaluate Conformer against a state-of-the-art Numerical Weather Prediction (NWP) model and several deep learning based weather forecasting models. Conformer outperforms some of the existing data-driven models at all lead times while only being trained at lower resolution data.
• Abstract（参考訳）: 運用気象予報システムは計算コストの高い物理モデルに依存している。 トランスフォーマーベースのモデルは天気予報において顕著な可能性を示しているが、トランスフォーマーは動的気象システムの時相的連続的な特徴を学習する能力を制限する離散モデルである。 天気予報のための時空間連続視変換器であるConformerでこの問題に対処する。 コンフォーマーは,マルチヘッドアテンション機構に連続性を実装することで,時間とともに連続的な気象変動を学習するように設計されている。 注意機構は、複雑な気象力学をモデル化するトランスフォーマーアーキテクチャにおける微分可能な関数として符号化される。 我々はコンフォーマーを最先端の数値気象予測(NWP)モデルと深層学習に基づく天気予報モデルに対して評価する。 conformerは、解像度の低いデータでのみトレーニングしながら、すべてのリードタイムで既存のデータ駆動モデルよりも優れています。

関連論文リスト

• Multi-Source Temporal Attention Network for Precipitation Nowcasting [4.726419619132143]
  降水量は様々な産業で重要であり、気候変動の緩和と適応に重要な役割を果たしている。 降水量予測のための効率的な深層学習モデルを導入し,既存の運用モデルよりも高い精度で降雨を最大8時間予測する。
  論文  参考訳（メタデータ） (2024-10-11T09:09:07Z)
• Comparing and Contrasting Deep Learning Weather Prediction Backbones on Navier-Stokes and Atmospheric Dynamics [41.00712556599439]
  私たちは、最も顕著なディープラーニング天気予報モデルと背骨を比較し、対比します。 合成2次元非圧縮性ナビエストークスと実世界の気象動態を予測してこれを達成した。 365日間の長距離気象観測では、球面データ表現を定式化するアーキテクチャにおいて、優れた安定性と物理的健全性を観察する。
  論文  参考訳（メタデータ） (2024-07-19T08:59:00Z)
• Physics-guided Active Sample Reweighting for Urban Flow Prediction [75.24539704456791]
  都市フロー予測は、バス、タクシー、ライド駆動モデルといった交通サービスのスループットを見積もる、微妙な時間的モデリングである。 最近の予測解は、物理学誘導機械学習(PGML)の概念による改善をもたらす。 我々は、PN(atized Physics-guided Network)を開発し、P-GASR(Physical-guided Active Sample Reweighting)を提案する。
  論文  参考訳（メタデータ） (2024-07-18T15:44:23Z)
• How far are today's time-series models from real-world weather forecasting applications? [22.68937280154092]
  WEATHER-5Kは、現実世界のシナリオをよりよく反映した観測気象データの包括的収集である。 これにより、モデルのより良いトレーニングと、TSFモデルの現実の予測能力のより正確な評価が可能になる。 我々は,学術的TSFモデルと実世界の天気予報アプリケーションとのギャップを,研究者に明確に評価する。
  論文  参考訳（メタデータ） (2024-06-20T15:18:52Z)
• Generalizing Weather Forecast to Fine-grained Temporal Scales via Physics-AI Hybrid Modeling [55.13352174687475]
  本稿では,天気予報をより微細なテンポラルスケールに一般化する物理AIハイブリッドモデル(WeatherGFT)を提案する。 具体的には、小さな時間スケールで物理進化をシミュレートするために、慎重に設計されたPDEカーネルを用いる。 我々は、異なるリードタイムでのモデルの一般化を促進するためのリードタイムアウェアトレーニングフレームワークを導入する。
  論文  参考訳（メタデータ） (2024-05-22T16:21:02Z)
• ClimODE: Climate and Weather Forecasting with Physics-informed Neural ODEs [14.095897879222676]
  統計力学の重要な原理を実装した連続時間プロセスであるClimODEを提案する。 ClimODEは、値保存ダイナミクスによる正確な気象進化をモデル化し、ニューラルネットワークとしてグローバルな気象輸送を学習する。 提案手法は,大域的,地域的予測において,パラメータ化の桁違いで既存のデータ駆動手法より優れる。
  論文  参考訳（メタデータ） (2024-04-15T06:38:21Z)
• FengWu-4DVar: Coupling the Data-driven Weather Forecasting Model with 4D Variational Assimilation [67.20588721130623]
  我々は,AIを用いた循環型天気予報システムFengWu-4DVarを開発した。 FengWu-4DVarは観測データをデータ駆動の天気予報モデルに組み込むことができる。 シミュレーションされた観測データセットの実験は、FengWu-4DVarが合理的な解析場を生成することができることを示した。
  論文  参考訳（メタデータ） (2023-12-16T02:07:56Z)
• Rethinking Urban Mobility Prediction: A Super-Multivariate Time Series Forecasting Approach [71.67506068703314]
  長期の都市移動予測は、都市施設やサービスの効果的管理において重要な役割を担っている。 伝統的に、都市移動データはビデオとして構成され、経度と緯度を基本的なピクセルとして扱う。 本研究では,都市におけるモビリティ予測の新たな視点について紹介する。 都市移動データを従来のビデオデータとして単純化するのではなく、複雑な時系列と見なす。
  論文  参考訳（メタデータ） (2023-12-04T07:39:05Z)
• ClimaX: A foundation model for weather and climate [51.208269971019504]
  ClimaXは気象と気候科学のディープラーニングモデルである。 気候データセットの自己教師型学習目標で事前トレーニングすることができる。 気候や気候の様々な問題に対処するために、微調整が可能である。
  論文  参考訳（メタデータ） (2023-01-24T23:19:01Z)
• Physics-Inspired Temporal Learning of Quadrotor Dynamics for Accurate Model Predictive Trajectory Tracking [76.27433308688592]
  クオーロタのシステムダイナミクスを正確にモデル化することは、アジャイル、安全、安定したナビゲーションを保証する上で非常に重要です。 本稿では,ロボットの経験から,四重項系の力学を純粋に学習するための新しい物理インスパイアされた時間畳み込みネットワーク(PI-TCN)を提案する。 提案手法は,スパース時間的畳み込みと高密度フィードフォワード接続の表現力を組み合わせて,正確なシステム予測を行う。
  論文  参考訳（メタデータ） (2022-06-07T13:51:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。