Fugu-MT 論文翻訳(概要): A Novel Transformer Network with Shifted Window Cross-Attention for Spatiotemporal Weather Forecasting

論文の概要: A Novel Transformer Network with Shifted Window Cross-Attention for Spatiotemporal Weather Forecasting

arxiv url: http://arxiv.org/abs/2208.01252v1
Date: Tue, 2 Aug 2022 05:04:53 GMT
ステータス: 処理完了
システム内更新日: 2022-08-03 13:13:45.192977
Title: A Novel Transformer Network with Shifted Window Cross-Attention for Spatiotemporal Weather Forecasting
Title（参考訳）: 時空間気象予報のためのシフト窓クロスアテンションを有する新しい変圧器ネットワーク
Authors: Alabi Bojesomo, Hasan Al Marzouqi, Panos Liatsis
Abstract要約: 我々は,ビデオトランスを用いた天気予報の課題に取り組む。視覚変換器のアーキテクチャは様々な用途で研究されている。本稿では,ビデオスウィン・トランスフォーマーと専用拡張スキームの併用を提案する。
参考スコア（独自算出の注目度）: 5.414308305392762
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Earth Observatory is a growing research area that can capitalize on the powers of AI for short time forecasting, a Now-casting scenario. In this work, we tackle the challenge of weather forecasting using a video transformer network. Vision transformer architectures have been explored in various applications, with major constraints being the computational complexity of Attention and the data hungry training. To address these issues, we propose the use of Video Swin-Transformer, coupled with a dedicated augmentation scheme. Moreover, we employ gradual spatial reduction on the encoder side and cross-attention on the decoder. The proposed approach is tested on the Weather4Cast2021 weather forecasting challenge data, which requires the prediction of 8 hours ahead future frames (4 per hour) from an hourly weather product sequence. The dataset was normalized to 0-1 to facilitate using the evaluation metrics across different datasets. The model results in an MSE score of 0.4750 when provided with training data, and 0.4420 during transfer learning without using training data, respectively.
Abstract（参考訳）: 地球観測所(Earth Observatory)は、AIの力を利用して短時間の予測を行う研究分野である。本研究では,ビデオトランスフォーマネットワークを用いた天気予報の課題に挑戦する。視覚トランスフォーマーアーキテクチャは様々なアプリケーションで研究されており、注意の計算複雑性とデータ空腹トレーニングが主な制約となっている。これらの問題に対処するため,我々はビデオスウィントランスフォーマの使用と専用の拡張スキームを提案する。さらに,エンコーダ側では徐々に空間的縮小を行い,デコーダ上ではクロスアテンションを行う。提案手法はウェザー4Cast2021気象予報挑戦データで検証され,時間ごとの気象製品系列から将来のフレーム(4時間)を8時間先まで予測する必要がある。データセットは0-1に正規化され、さまざまなデータセットにまたがる評価メトリクスの使用が容易になった。モデルは、トレーニングデータを設けた場合のMSEスコア0.4750と、トレーニングデータを使用しない移行学習中の0.4420との結果である。

関連論文リスト

Transformer based time series prediction of the maximum power point for solar photovoltaic cells [0.24233709516962787]
本稿では,太陽太陽電池セルにおける深層学習に基づく最大パワーポイントトラッキング(MPPT)の改良を提案する。本稿では, 環境条件を包括的に表現する。提案モデルでは, 広範囲の大気環境において, 強靭で動的かつ非相対的に電力点追跡を行う。
論文参考訳（メタデータ） (2024-09-24T17:26:55Z)
WeatherFormer: A Pretrained Encoder Model for Learning Robust Weather Representations from Small Datasets [0.5735035463793009]
WeatherFormerは、最小限の観測から堅牢な気象特徴を学習するために設計されたトランスフォーマーエンコーダベースのモデルである。ウェザーホルマーは、アメリカ大陸の39年間の衛星観測による大規模な事前訓練データセットで事前訓練された。
論文参考訳（メタデータ） (2024-05-22T17:43:46Z)
Generalizing Weather Forecast to Fine-grained Temporal Scales via Physics-AI Hybrid Modeling [55.13352174687475]
本稿では,天気予報をトレーニングデータセットを超える微細な時間スケールに一般化する物理AIハイブリッドモデル(WeatherGFT)を提案する。具体的には、小さな時間スケールで物理進化をシミュレートするために、慎重に設計されたPDEカーネルを用いる。また、異なるリードタイムでのモデルの一般化を促進するためのリードタイムアウェアトレーニングフレームワークも導入する。
論文参考訳（メタデータ） (2024-05-22T16:21:02Z)
STC-ViT: Spatio Temporal Continuous Vision Transformer for Weather Forecasting [0.0]
天気予報のための時空間連続トランスフォーマービジョンであるSTC-ViTを提案する。 STC-ViTは、連続した天気変化を時間とともに学習するために、マルチヘッドアテンション機構を備えた連続時間ニューラルODE層を組み込んでいる。 STC-ViTは,操作型数値天気予報(NWP)モデルと,深層学習に基づく天気予報モデルとを比較した。
論文参考訳（メタデータ） (2024-02-28T01:15:30Z)
Rethinking Urban Mobility Prediction: A Super-Multivariate Time Series Forecasting Approach [71.67506068703314]
長期の都市移動予測は、都市施設やサービスの効果的管理において重要な役割を担っている。伝統的に、都市移動データはビデオとして構成され、経度と緯度を基本的なピクセルとして扱う。本研究では,都市におけるモビリティ予測の新たな視点について紹介する。都市移動データを従来のビデオデータとして単純化するのではなく、複雑な時系列と見なす。
論文参考訳（メタデータ） (2023-12-04T07:39:05Z)
FengWu: Pushing the Skillful Global Medium-range Weather Forecast beyond 10 Days Lead [93.67314652898547]
人工知能(AI)に基づく高度データ駆動型中距離気象予報システムFengWuについて紹介する。 FengWuは大気力学を正確に再現し、0.25度緯度で37の垂直レベルで将来の陸と大気の状態を予測することができる。その結果、FengWuは予測能力を大幅に向上させ、熟練した中距離気象予報を10.75日間のリードまで拡張できることがわかった。
論文参考訳（メタデータ） (2023-04-06T09:16:39Z)
Pangu-Weather: A 3D High-Resolution Model for Fast and Accurate Global Weather Forecast [91.9372563527801]
我々は,世界天気予報を迅速かつ高精度に予測するためのディープラーニングベースのシステムであるPangu-Weatherを紹介する。初めてAIベースの手法が、最先端の数値天気予報法(NWP)を精度で上回った。 Pangu-Weatherは、極端な天気予報や大規模なアンサンブル予測など、幅広い下流予測シナリオをサポートしている。
論文参考訳（メタデータ） (2022-11-03T17:19:43Z)
ENS-10: A Dataset For Post-Processing Ensemble Weather Forecast [12.812768685050898]
後処理アンサンブル予測システムは、特に極端な事象予測のために天気予報を改善することができる。本報告では,1998-2017年に10人のアンサンブルメンバーからなるENS-10データセットについて述べる。アンサンブルのメンバーは、地球のカオス的な振る舞いを捉えるために数値気象シミュレーションを摂動することによって生成される。
論文参考訳（メタデータ） (2022-06-29T17:40:56Z)
Vision in adverse weather: Augmentation using CycleGANs with various object detectors for robust perception in autonomous racing [70.16043883381677]
自律レースでは、天気は突然変化し、認識が著しく低下し、非効率な操作が引き起こされる。悪天候の検知を改善するために、ディープラーニングベースのモデルは通常、そのような状況下でキャプチャされた広範なデータセットを必要とする。本稿では,5つの最先端検出器のうち4つの性能向上を図るために,自動レース(CycleGANを用いた)における合成悪条件データセットを用いた手法を提案する。
論文参考訳（メタデータ） (2022-01-10T10:02:40Z)
TENT: Tensorized Encoder Transformer for Temperature Forecasting [3.498371632913735]
天気予報のためのトランスフォーマーアーキテクチャに基づく新しいモデルを提案する。元の変換器と3D畳み込みニューラルネットワークと比較して、提案したTENTモデルは、気象データの基本となる複雑なパターンをより良くモデル化できることを示す。 2つの実生活気象データセットの実験を行う。
論文参考訳（メタデータ） (2021-06-28T14:17:22Z)
Deep Transformer Networks for Time Series Classification: The NPP Safety Case [59.20947681019466]
時間依存nppシミュレーションデータをモデル化するために、教師付き学習方法でトランスフォーマと呼ばれる高度なテンポラルニューラルネットワークを使用する。トランスはシーケンシャルデータの特性を学習し、テストデータセット上で約99%の分類精度で有望な性能が得られる。
論文参考訳（メタデータ） (2021-04-09T14:26:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。