Fugu-MT 論文翻訳(概要): TENT: Tensorized Encoder Transformer for Temperature Forecasting

論文の概要: TENT: Tensorized Encoder Transformer for Temperature Forecasting

arxiv url: http://arxiv.org/abs/2106.14742v1
Date: Mon, 28 Jun 2021 14:17:22 GMT
ステータス: 処理完了
システム内更新日: 2021-06-29 16:05:17.998862
Title: TENT: Tensorized Encoder Transformer for Temperature Forecasting
Title（参考訳）: TENT:温度予測のためのテンソル化エンコーダ変換器
Authors: Onur Bilgin, Pawe{\l} M\k{a}ka, Thomas Vergutz and Siamak Mehrkanoon
Abstract要約: 天気予報のためのトランスフォーマーアーキテクチャに基づく新しいモデルを提案する。元の変換器と3D畳み込みニューラルネットワークと比較して、提案したTENTモデルは、気象データの基本となる複雑なパターンをより良くモデル化できることを示す。 2つの実生活気象データセットの実験を行う。
参考スコア（独自算出の注目度）: 3.498371632913735
License: http://creativecommons.org/licenses/by-sa/4.0/
Abstract: Reliable weather forecasting is of great importance in science, business and society. The best performing data-driven models for weather prediction tasks rely on recurrent or convolutional neural networks, where some of which incorporate attention mechanisms. In this work, we introduce a new model based on the Transformer architecture for weather forecasting. The proposed Tensorial Encoder Transformer (TENT) model is equipped with tensorial attention and thus it exploits the spatiotemporal structure of weather data by processing it in multidimensional tensorial format. We show that compared to the encoder part of the original transformer and 3D convolutional neural networks, the proposed TENT model can better model the underlying complex pattern of weather data for the studied temperature prediction task. Experiments on two real-life weather datasets are performed. The datasets consist of historical measurements from USA, Canada and European cities. The first dataset contains hourly measurements of weather attributes for 30 cities in USA and Canada from October 2012 to November 2017. The second dataset contains daily measurements of weather attributes of 18 cities across Europe from May 2005 to April 2020. We use attention scores calculated from our attention mechanism to shed light on the decision-making process of our model and have insight knowledge on the most important cities for the task.
Abstract（参考訳）: 信頼できる気象予報は、科学、ビジネス、社会において非常に重要である。天気予報タスクで最高のデータ駆動モデルを実行するには、リカレントまたは畳み込みニューラルネットワークに頼っている。本研究では,気象予報のためのTransformerアーキテクチャに基づく新しいモデルを提案する。提案したテンソルエンコーダ変換器(TENT)モデルはテンソルアテンションを備えており,多次元テンソルフォーマットで処理することで気象データの時空間構造を利用する。提案したTENTモデルは,元の変圧器と3次元畳み込みニューラルネットワークのエンコーダ部と比較して,温度予測タスクにおいて,基礎となる複雑な気象データパターンをモデル化できることを示す。 2つの実生活気象データセットの実験を行う。データセットは、米国、カナダ、ヨーロッパの都市からの歴史的測定から成っている。最初のデータセットには、2012年10月から2017年11月までの米国とカナダの30都市の気象特性の時間的測定が含まれている。第2のデータセットは2005年5月から2020年4月までの欧州18都市の気象特性を毎日測定している。我々は、注意機構から算出した注意スコアを用いて、モデルの意思決定プロセスに光を当て、そのタスクにとって最も重要な都市についての知見を得る。

関連論文リスト

FATE: Focal-modulated Attention Encoder for Temperature Prediction [0.0]
気候変動は21世紀の大きな課題の1つである。従来のデータ駆動モデルはリカレントニューラルネットワーク(RNN)を使用することが多いが、並列化には制限がある。本稿では,FocalNet Transformerアーキテクチャに基づく新しいアプローチを提案する。
論文参考訳（メタデータ） (2024-08-21T04:40:18Z)
WeatherFormer: A Pretrained Encoder Model for Learning Robust Weather Representations from Small Datasets [0.5735035463793009]
WeatherFormerは、最小限の観測から堅牢な気象特徴を学習するために設計されたトランスフォーマーエンコーダベースのモデルである。ウェザーホルマーは、アメリカ大陸の39年間の衛星観測による大規模な事前訓練データセットで事前訓練された。
論文参考訳（メタデータ） (2024-05-22T17:43:46Z)
Generalizing Weather Forecast to Fine-grained Temporal Scales via Physics-AI Hybrid Modeling [55.13352174687475]
本稿では,天気予報をより微細なテンポラルスケールに一般化する物理AIハイブリッドモデル(WeatherGFT)を提案する。具体的には、小さな時間スケールで物理進化をシミュレートするために、慎重に設計されたPDEカーネルを用いる。我々は、異なるリードタイムでのモデルの一般化を促進するためのリードタイムアウェアトレーニングフレームワークを導入する。
論文参考訳（メタデータ） (2024-05-22T16:21:02Z)
FengWu-4DVar: Coupling the Data-driven Weather Forecasting Model with 4D Variational Assimilation [67.20588721130623]
我々は,AIを用いた循環型天気予報システムFengWu-4DVarを開発した。 FengWu-4DVarは観測データをデータ駆動の天気予報モデルに組み込むことができる。シミュレーションされた観測データセットの実験は、FengWu-4DVarが合理的な解析場を生成することができることを示した。
論文参考訳（メタデータ） (2023-12-16T02:07:56Z)
Deep Learning for Day Forecasts from Sparse Observations [60.041805328514876]
深層ニューラルネットワークは、気象条件をモデル化するための代替パラダイムを提供する。 MetNet-3は、密度とスパースの両方のデータセンサーから学習し、降水、風、温度、露点を最大24時間前に予測する。 MetNet-3は、それぞれ時間分解能と空間分解能が高く、最大2分と1km、運用遅延は低い。
論文参考訳（メタデータ） (2023-06-06T07:07:54Z)
GraphCast: Learning skillful medium-range global weather forecasting [107.40054095223779]
我々は、再分析データから直接トレーニングできる「GraphCast」と呼ばれる機械学習ベースの手法を導入する。全世界で10日以上、0.25度で、数百の気象変動を1分以内で予測する。我々は,GraphCastが1380の検証対象の90%において,最も正確な運用決定システムよりも優れていることを示す。
論文参考訳（メタデータ） (2022-12-24T18:15:39Z)
Pangu-Weather: A 3D High-Resolution Model for Fast and Accurate Global Weather Forecast [91.9372563527801]
我々は,世界天気予報を迅速かつ高精度に予測するためのディープラーニングベースのシステムであるPangu-Weatherを紹介する。初めてAIベースの手法が、最先端の数値天気予報法(NWP)を精度で上回った。 Pangu-Weatherは、極端な天気予報や大規模なアンサンブル予測など、幅広い下流予測シナリオをサポートしている。
論文参考訳（メタデータ） (2022-11-03T17:19:43Z)
A Novel Transformer Network with Shifted Window Cross-Attention for Spatiotemporal Weather Forecasting [5.414308305392762]
我々は,ビデオトランスを用いた天気予報の課題に取り組む。視覚変換器のアーキテクチャは様々な用途で研究されている。本稿では,ビデオスウィン・トランスフォーマーと専用拡張スキームの併用を提案する。
論文参考訳（メタデータ） (2022-08-02T05:04:53Z)
Multistream Graph Attention Networks for Wind Speed Forecasting [4.644923443649426]
本稿では,グラフ注意ネットワーク(GAT)に基づく風速予測の新しいモデルを提案する。特に,提案モデルでは,学習可能な隣接行列を用いてGATアーキテクチャを拡張した。風速予測に用いた従来のアーキテクチャと比較して,提案手法は気象データの複雑な入出力関係をよりよく学習できることを示す。
論文参考訳（メタデータ） (2021-08-16T12:58:26Z)
Wind speed prediction using multidimensional convolutional neural networks [5.228711636020665]
本稿では,風速予測タスクのための畳み込みニューラルネットワーク(CNN)に基づくモデルを提案する。従来のCNNモデルと比較して,提案モデルでは風速データより優れた特徴付けが可能であることを示す。
論文参考訳（メタデータ） (2020-07-04T20:48:41Z)
A generative adversarial network approach to (ensemble) weather prediction [91.3755431537592]
本研究では,500hPaの圧力レベル,2m温度,24時間の総降水量を予測するために,条件付き深部畳み込み生成対向ネットワークを用いた。提案されたモデルは、2019年に関連する気象分野を予測することを目的として、2015年から2018年までの4年間のERA5の再分析データに基づいて訓練されている。
論文参考訳（メタデータ） (2020-06-13T20:53:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。