論文の概要: A Novel Transformer Network with Shifted Window Cross-Attention for
Spatiotemporal Weather Forecasting
- arxiv url: http://arxiv.org/abs/2208.01252v1
- Date: Tue, 2 Aug 2022 05:04:53 GMT
- ステータス: 処理完了
- システム内更新日: 2022-08-03 13:13:45.192977
- Title: A Novel Transformer Network with Shifted Window Cross-Attention for
Spatiotemporal Weather Forecasting
- Title(参考訳): 時空間気象予報のためのシフト窓クロスアテンションを有する新しい変圧器ネットワーク
- Authors: Alabi Bojesomo, Hasan Al Marzouqi, Panos Liatsis
- Abstract要約: 我々は,ビデオトランスを用いた天気予報の課題に取り組む。
視覚変換器のアーキテクチャは様々な用途で研究されている。
本稿では,ビデオスウィン・トランスフォーマーと専用拡張スキームの併用を提案する。
- 参考スコア(独自算出の注目度): 5.414308305392762
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Earth Observatory is a growing research area that can capitalize on the
powers of AI for short time forecasting, a Now-casting scenario. In this work,
we tackle the challenge of weather forecasting using a video transformer
network. Vision transformer architectures have been explored in various
applications, with major constraints being the computational complexity of
Attention and the data hungry training. To address these issues, we propose the
use of Video Swin-Transformer, coupled with a dedicated augmentation scheme.
Moreover, we employ gradual spatial reduction on the encoder side and
cross-attention on the decoder. The proposed approach is tested on the
Weather4Cast2021 weather forecasting challenge data, which requires the
prediction of 8 hours ahead future frames (4 per hour) from an hourly weather
product sequence. The dataset was normalized to 0-1 to facilitate using the
evaluation metrics across different datasets. The model results in an MSE score
of 0.4750 when provided with training data, and 0.4420 during transfer learning
without using training data, respectively.
- Abstract(参考訳): 地球観測所(Earth Observatory)は、AIの力を利用して短時間の予測を行う研究分野である。
本研究では,ビデオトランスフォーマネットワークを用いた天気予報の課題に挑戦する。
視覚トランスフォーマーアーキテクチャは様々なアプリケーションで研究されており、注意の計算複雑性とデータ空腹トレーニングが主な制約となっている。
これらの問題に対処するため,我々はビデオスウィントランスフォーマの使用と専用の拡張スキームを提案する。
さらに,エンコーダ側では徐々に空間的縮小を行い,デコーダ上ではクロスアテンションを行う。
提案手法はウェザー4Cast2021気象予報挑戦データで検証され,時間ごとの気象製品系列から将来のフレーム(4時間)を8時間先まで予測する必要がある。
データセットは0-1に正規化され、さまざまなデータセットにまたがる評価メトリクスの使用が容易になった。
モデルは、トレーニングデータを設けた場合のMSEスコア0.4750と、トレーニングデータを使用しない移行学習中の0.4420との結果である。
関連論文リスト
- Rethinking Urban Mobility Prediction: A Super-Multivariate Time Series
Forecasting Approach [71.67506068703314]
長期の都市移動予測は、都市施設やサービスの効果的管理において重要な役割を担っている。
伝統的に、都市移動データはビデオとして構成され、経度と緯度を基本的なピクセルとして扱う。
本研究では,都市におけるモビリティ予測の新たな視点について紹介する。
都市移動データを従来のビデオデータとして単純化するのではなく、複雑な時系列と見なす。
論文 参考訳(メタデータ) (2023-12-04T07:39:05Z) - Balancing Computational Efficiency and Forecast Error in Machine
Learning-based Time-Series Forecasting: Insights from Live Experiments on
Meteorological Nowcasting [0.0]
本稿では,気象情報を用いた計算コストと予測誤差の関係について述べる。
5日間のライブ実験では、4000のデータソースがトレーニングのためにストリームされ、1時間あたり144モデルが参照された。
その結果, 分散ホライゾンを用いることで計算使用量を50%以上削減し, 誤差は0~15%増加した。
論文 参考訳(メタデータ) (2023-09-26T19:10:00Z) - FengWu: Pushing the Skillful Global Medium-range Weather Forecast beyond
10 Days Lead [93.67314652898547]
人工知能(AI)に基づく高度データ駆動型中距離気象予報システムFengWuについて紹介する。
FengWuは大気力学を正確に再現し、0.25度緯度で37の垂直レベルで将来の陸と大気の状態を予測することができる。
その結果、FengWuは予測能力を大幅に向上させ、熟練した中距離気象予報を10.75日間のリードまで拡張できることがわかった。
論文 参考訳(メタデータ) (2023-04-06T09:16:39Z) - GraphCast: Learning skillful medium-range global weather forecasting [107.40054095223779]
我々は、再分析データから直接トレーニングできる「GraphCast」と呼ばれる機械学習ベースの手法を導入する。
全世界で10日以上、0.25度で、数百の気象変動を1分以内で予測する。
我々は,GraphCastが1380の検証対象の90%において,最も正確な運用決定システムよりも優れていることを示す。
論文 参考訳(メタデータ) (2022-12-24T18:15:39Z) - Solving the Weather4cast Challenge via Visual Transformers for 3D Images [1.2891210250935146]
衛星観測の前の時刻を文脈として,今後8時間にわたって降雨イベントを予測する問題に対処する。
近年,コンピュータビジョンにおけるトランスフォーマーアーキテクチャの成功に触発されて,この問題に対処するために,このアーキテクチャに基づく2つの方法論を実装した。
いくつかのベースラインモデルで異なるトランスフォーマーをアンサンブルすることで、目に見えないテストデータで測定できる最高のパフォーマンスが得られることが分かりました。
論文 参考訳(メタデータ) (2022-12-05T17:58:58Z) - Pangu-Weather: A 3D High-Resolution Model for Fast and Accurate Global
Weather Forecast [91.9372563527801]
我々は,世界天気予報を迅速かつ高精度に予測するためのディープラーニングベースのシステムであるPangu-Weatherを紹介する。
初めてAIベースの手法が、最先端の数値天気予報法(NWP)を精度で上回った。
Pangu-Weatherは、極端な天気予報や大規模なアンサンブル予測など、幅広い下流予測シナリオをサポートしている。
論文 参考訳(メタデータ) (2022-11-03T17:19:43Z) - ENS-10: A Dataset For Post-Processing Ensemble Weather Forecast [12.812768685050898]
後処理アンサンブル予測システムは、特に極端な事象予測のために天気予報を改善することができる。
本報告では,1998-2017年に10人のアンサンブルメンバーからなるENS-10データセットについて述べる。
アンサンブルのメンバーは、地球のカオス的な振る舞いを捉えるために数値気象シミュレーションを摂動することによって生成される。
論文 参考訳(メタデータ) (2022-06-29T17:40:56Z) - SwinUNet3D -- A Hierarchical Architecture for Deep Traffic Prediction
using Shifted Window Transformers [5.414308305392762]
本稿では,UNet設定における視覚変換器の利用について検討する。
UNetのすべての畳み込みベースのビルディングブロックを完全に取り除き、エンコーダとデコーダの両方で3Dシフトトランスフォーマーを使用します。
The proposed network is test on the data on Traffic Map Movie Forecasting Challenge 2021 (Traffic4cast), held in the competition of Neural Information Processing Systems (eurIPS)。
論文 参考訳(メタデータ) (2022-01-17T12:58:45Z) - Vision in adverse weather: Augmentation using CycleGANs with various
object detectors for robust perception in autonomous racing [70.16043883381677]
自律レースでは、天気は突然変化し、認識が著しく低下し、非効率な操作が引き起こされる。
悪天候の検知を改善するために、ディープラーニングベースのモデルは通常、そのような状況下でキャプチャされた広範なデータセットを必要とする。
本稿では,5つの最先端検出器のうち4つの性能向上を図るために,自動レース(CycleGANを用いた)における合成悪条件データセットを用いた手法を提案する。
論文 参考訳(メタデータ) (2022-01-10T10:02:40Z) - TENT: Tensorized Encoder Transformer for Temperature Forecasting [3.498371632913735]
天気予報のためのトランスフォーマーアーキテクチャに基づく新しいモデルを提案する。
元の変換器と3D畳み込みニューラルネットワークと比較して、提案したTENTモデルは、気象データの基本となる複雑なパターンをより良くモデル化できることを示す。
2つの実生活気象データセットの実験を行う。
論文 参考訳(メタデータ) (2021-06-28T14:17:22Z) - Deep Transformer Networks for Time Series Classification: The NPP Safety
Case [59.20947681019466]
時間依存nppシミュレーションデータをモデル化するために、教師付き学習方法でトランスフォーマと呼ばれる高度なテンポラルニューラルネットワークを使用する。
トランスはシーケンシャルデータの特性を学習し、テストデータセット上で約99%の分類精度で有望な性能が得られる。
論文 参考訳(メタデータ) (2021-04-09T14:26:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。