論文の概要: On the Integration of Spatial-Temporal Knowledge: A Lightweight Approach to Atmospheric Time Series Forecasting
- arxiv url: http://arxiv.org/abs/2408.09695v2
- Date: Wed, 24 Sep 2025 03:41:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-25 20:53:19.449465
- Title: On the Integration of Spatial-Temporal Knowledge: A Lightweight Approach to Atmospheric Time Series Forecasting
- Title（参考訳）: 空間的時間的知識の統合について:大気時系列予測への軽量アプローチ
- Authors: Yisong Fu, Fei Wang, Zezhi Shao, Boyu Diao, Lin Wu, Zhulin An, Chengqing Yu, Yujie Li, Yongjun Xu,
- Abstract要約: 複雑建築における時空間知識統合の有効性を強調し,大気時系列予測(ATSF)の新たな知見を提供する。
10kパラメータと1時間のトレーニングにより、STELLAは他の高度なメソッドと比較して、5つのデータセットで優れたパフォーマンスを実現している。
- 参考スコア（独自算出の注目度）: 24.119776558530983
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Transformers have gained attention in atmospheric time series forecasting (ATSF) for their ability to capture global spatial-temporal correlations. However, their complex architectures lead to excessive parameter counts and extended training times, limiting their scalability to large-scale forecasting. In this paper, we revisit ATSF from a theoretical perspective of atmospheric dynamics and uncover a key insight: spatial-temporal position embedding (STPE) can inherently model spatial-temporal correlations even without attention mechanisms. Its effectiveness arises from the integration of geographical coordinates and temporal features, which are intrinsically linked to atmospheric dynamics. Based on this, we propose STELLA, a Spatial-Temporal knowledge Embedded Lightweight modeL for ASTF, utilizing only STPE and an MLP architecture in place of Transformer layers. With 10k parameters and one hour of training, STELLA achieves superior performance on five datasets compared to other advanced methods. The paper emphasizes the effectiveness of spatial-temporal knowledge integration over complex architectures, providing novel insights for ATSF. The code is available at https://github.com/GestaltCogTeam/STELLA.
- Abstract（参考訳）: トランスフォーマーは、グローバルな時空間相関を捉えた大気時系列予測(ATSF)に注目されている。
しかし、それらの複雑なアーキテクチャは、過剰なパラメータ数とトレーニング時間を延長し、スケーラビリティを大規模予測に制限する。
本稿では,大気力学の理論的観点からATSFを再考し,空間的時間的位置埋め込み(STPE)は,注意機構がなくても本質的に空間的時間的相関をモデル化することができることを示す。
その効果は、本質的に大気力学と結びついている地理的座標と時間的特徴の統合から生じる。
そこで本研究では,STPE と MLP アーキテクチャのみをトランスフォーマー層に代えて利用し,時空間知識を組み込んだ ASTF 用組込み軽量モードである STELLA を提案する。
10kパラメータと1時間のトレーニングにより、STELLAは他の高度なメソッドと比較して、5つのデータセットで優れたパフォーマンスを実現している。
本稿では,複雑なアーキテクチャに対する空間的時間的知識統合の有効性を強調し,ATSFの新たな洞察を提供する。
コードはhttps://github.com/GestaltCogTeam/STELLA.comで公開されている。
関連論文リスト
- ClimateLLM: Efficient Weather Forecasting via Frequency-Aware Large Language Models [13.740208247043258]
天気予報の基礎モデルであるClimateLLMを提案する。
時間的および空間横断的な協調フレームワークを通じて、時間的依存関係をキャプチャする。
周波数分解と大言語モデルを統合し、空間的および時間的モデリングを強化する。
論文 参考訳（メタデータ） (2025-02-16T09:57:50Z) - Advancing Meteorological Forecasting: AI-based Approach to Synoptic Weather Map Analysis [3.686808512438363]
本研究では,新しい事前処理手法と畳み込みオートエンコーダモデルを提案する。
このモデルでは、現在の大気条件にほぼ一致する歴史的シンフォティック気象図を認識できた。
論文 参考訳（メタデータ） (2024-11-08T07:46:50Z) - WeatherFormer: Empowering Global Numerical Weather Forecasting with Space-Time Transformer [18.1906457042669]
数値気象予報システム (NWP) は近代社会に多大な影響を与えるインフラである。
従来のNWPは、複雑な偏微分方程式を巨大な計算クラスターで解き、大量の二酸化炭素を放出する。
この研究は、複雑な時間的大気力学をモデル化するための新しいトランスフォーマーベースのNWPフレームワークであるWeatherFormerを提案する。
論文 参考訳（メタデータ） (2024-09-21T07:02:31Z) - How far are today's time-series models from real-world weather forecasting applications? [22.68937280154092]
WEATHER-5Kは、現実世界のシナリオをよりよく反映した観測気象データの包括的収集である。
これにより、モデルのより良いトレーニングと、TSFモデルの現実の予測能力のより正確な評価が可能になる。
我々は,学術的TSFモデルと実世界の天気予報アプリケーションとのギャップを,研究者に明確に評価する。
論文 参考訳（メタデータ） (2024-06-20T15:18:52Z) - WeatherFormer: A Pretrained Encoder Model for Learning Robust Weather Representations from Small Datasets [0.5735035463793009]
WeatherFormerは、最小限の観測から堅牢な気象特徴を学習するために設計されたトランスフォーマーエンコーダベースのモデルである。
ウェザーホルマーは、アメリカ大陸の39年間の衛星観測による大規模な事前訓練データセットで事前訓練された。
論文 参考訳（メタデータ） (2024-05-22T17:43:46Z) - Generalizing Weather Forecast to Fine-grained Temporal Scales via Physics-AI Hybrid Modeling [55.13352174687475]
本稿では,天気予報をより微細なテンポラルスケールに一般化する物理AIハイブリッドモデル(WeatherGFT)を提案する。
具体的には、小さな時間スケールで物理進化をシミュレートするために、慎重に設計されたPDEカーネルを用いる。
我々は、異なるリードタイムでのモデルの一般化を促進するためのリードタイムアウェアトレーニングフレームワークを導入する。
論文 参考訳（メタデータ） (2024-05-22T16:21:02Z) - Towards an end-to-end artificial intelligence driven global weather forecasting system [57.5191940978886]
我々は,地球規模の気象変動に対するAIに基づくデータ同化モデル,すなわちAdasを提案する。
我々は,アダスが地球観測を同化して高品質な分析を行い,長期にわたって安定して運用できることを実証した。
この手法を現実のシナリオに適用するのは,私たちが初めてです。
論文 参考訳（メタデータ） (2023-12-18T09:05:28Z) - Learning Robust Precipitation Forecaster by Temporal Frame Interpolation [65.5045412005064]
本研究では,空間的不一致に対するレジリエンスを示す頑健な降水予測モデルを構築した。
提案手法は,textit4cast'23コンペティションの移行学習リーダーボードにおいて,textit1位を確保したモデルにおいて,予測精度が大幅に向上した。
論文 参考訳（メタデータ） (2023-11-30T08:22:08Z) - ClimaX: A foundation model for weather and climate [51.208269971019504]
ClimaXは気象と気候科学のディープラーニングモデルである。
気候データセットの自己教師型学習目標で事前トレーニングすることができる。
気候や気候の様々な問題に対処するために、微調整が可能である。
論文 参考訳（メタデータ） (2023-01-24T23:19:01Z) - GraphCast: Learning skillful medium-range global weather forecasting [107.40054095223779]
我々は、再分析データから直接トレーニングできる「GraphCast」と呼ばれる機械学習ベースの手法を導入する。
全世界で10日以上、0.25度で、数百の気象変動を1分以内で予測する。
我々は,GraphCastが1380の検証対象の90%において,最も正確な運用決定システムよりも優れていることを示す。
論文 参考訳（メタデータ） (2022-12-24T18:15:39Z) - Pangu-Weather: A 3D High-Resolution Model for Fast and Accurate Global
Weather Forecast [91.9372563527801]
我々は,世界天気予報を迅速かつ高精度に予測するためのディープラーニングベースのシステムであるPangu-Weatherを紹介する。
初めてAIベースの手法が、最先端の数値天気予報法(NWP)を精度で上回った。
Pangu-Weatherは、極端な天気予報や大規模なアンサンブル予測など、幅広い下流予測シナリオをサポートしている。
論文 参考訳（メタデータ） (2022-11-03T17:19:43Z) - Numerical Weather Forecasting using Convolutional-LSTM with Attention
and Context Matcher Mechanisms [10.759556555869798]
本稿では,高解像度気象データを予測するための新しいディープラーニングアーキテクチャを提案する。
我々の気象モデルは,ベースラインの深層学習モデルと比較して,大幅な性能向上を実現している。
論文 参考訳（メタデータ） (2021-02-01T08:30:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。