論文の概要: On the Integration of Spatial-Temporal Knowledge: A Lightweight Approach to Atmospheric Time Series Forecasting
- arxiv url: http://arxiv.org/abs/2408.09695v2
- Date: Wed, 24 Sep 2025 03:41:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-25 20:53:19.449465
- Title: On the Integration of Spatial-Temporal Knowledge: A Lightweight Approach to Atmospheric Time Series Forecasting
- Title(参考訳): 空間的時間的知識の統合について:大気時系列予測への軽量アプローチ
- Authors: Yisong Fu, Fei Wang, Zezhi Shao, Boyu Diao, Lin Wu, Zhulin An, Chengqing Yu, Yujie Li, Yongjun Xu,
- Abstract要約: 複雑建築における時空間知識統合の有効性を強調し,大気時系列予測(ATSF)の新たな知見を提供する。
10kパラメータと1時間のトレーニングにより、STELLAは他の高度なメソッドと比較して、5つのデータセットで優れたパフォーマンスを実現している。
- 参考スコア(独自算出の注目度): 24.119776558530983
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Transformers have gained attention in atmospheric time series forecasting (ATSF) for their ability to capture global spatial-temporal correlations. However, their complex architectures lead to excessive parameter counts and extended training times, limiting their scalability to large-scale forecasting. In this paper, we revisit ATSF from a theoretical perspective of atmospheric dynamics and uncover a key insight: spatial-temporal position embedding (STPE) can inherently model spatial-temporal correlations even without attention mechanisms. Its effectiveness arises from the integration of geographical coordinates and temporal features, which are intrinsically linked to atmospheric dynamics. Based on this, we propose STELLA, a Spatial-Temporal knowledge Embedded Lightweight modeL for ASTF, utilizing only STPE and an MLP architecture in place of Transformer layers. With 10k parameters and one hour of training, STELLA achieves superior performance on five datasets compared to other advanced methods. The paper emphasizes the effectiveness of spatial-temporal knowledge integration over complex architectures, providing novel insights for ATSF. The code is available at https://github.com/GestaltCogTeam/STELLA.
- Abstract(参考訳): トランスフォーマーは、グローバルな時空間相関を捉えた大気時系列予測(ATSF)に注目されている。
しかし、それらの複雑なアーキテクチャは、過剰なパラメータ数とトレーニング時間を延長し、スケーラビリティを大規模予測に制限する。
本稿では,大気力学の理論的観点からATSFを再考し,空間的時間的位置埋め込み(STPE)は,注意機構がなくても本質的に空間的時間的相関をモデル化することができることを示す。
その効果は、本質的に大気力学と結びついている地理的座標と時間的特徴の統合から生じる。
そこで本研究では,STPE と MLP アーキテクチャのみをトランスフォーマー層に代えて利用し,時空間知識を組み込んだ ASTF 用組込み軽量モードである STELLA を提案する。
10kパラメータと1時間のトレーニングにより、STELLAは他の高度なメソッドと比較して、5つのデータセットで優れたパフォーマンスを実現している。
本稿では,複雑なアーキテクチャに対する空間的時間的知識統合の有効性を強調し,ATSFの新たな洞察を提供する。
コードはhttps://github.com/GestaltCogTeam/STELLA.comで公開されている。
関連論文リスト
- Scalable Spatio-Temporal SE(3) Diffusion for Long-Horizon Protein Dynamics [51.85385061275941]
分子動力学(MD)シミュレーションは、タンパク質動力学研究のゴールドスタンダードのままである。
近年の生成モデルではシミュレーションの加速が期待できるが、長軸生成に苦慮している。
物理的に可塑性なタンパク質軌道をマイクロスケールの時間スケールで生成する拡張拡散モデルSTAR-MDを提案する。
論文 参考訳(メタデータ) (2026-02-02T14:13:28Z) - A Deep Learning Approach for Spatio-Temporal Forecasting of InSAR Ground Deformation in Eastern Ireland [2.840858735842673]
地盤変位のモニタリングは、都市インフラと地質学的危険の軽減に不可欠である。
本稿では,スパース点計測を高密度時間テンソルに変換する新しいディープラーニングフレームワークを提案する。
その結果,提案アーキテクチャはより正確で空間的に整合性のある予測を提供することを示した。
論文 参考訳(メタデータ) (2025-09-17T17:10:18Z) - S$^2$Transformer: Scalable Structured Transformers for Global Station Weather Forecasting [67.93713728260646]
既存の時系列予測手法は、大規模なグローバルステーション予測を行う際に、空間的相関を無視または一方向的にモデル化することが多い。
これは、予測性能を制限する地球規模の気象システムの観測の根底にある性質と矛盾する。
本稿では,構造的空間的注意を新たに提案する。
空間グラフを一連のサブグラフに分割し、サブグラフ内の注意をインスタンス化し、各サブグラフ内の局所的な空間相関を学習する。
ノードをサブグラフ間のメッセージパッシングのためのサブグラフ表現に集約する。
論文 参考訳(メタデータ) (2025-09-10T05:33:28Z) - ClimateLLM: Efficient Weather Forecasting via Frequency-Aware Large Language Models [13.740208247043258]
天気予報の基礎モデルであるClimateLLMを提案する。
時間的および空間横断的な協調フレームワークを通じて、時間的依存関係をキャプチャする。
周波数分解と大言語モデルを統合し、空間的および時間的モデリングを強化する。
論文 参考訳(メタデータ) (2025-02-16T09:57:50Z) - HyperFLINT: Hypernetwork-based Flow Estimation and Temporal Interpolation for Scientific Ensemble Visualization [26.472939569860607]
HyperFLINTは、流れ場を推定し、時間的に補間し、アンサンブルデータにおけるパラメータ空間探索を容易にする、新しいディープラーニングベースのアプローチである。
一連の実験では、HyperFLINTのフロー場推定性能が大幅に向上し、パラメータ空間探索が可能になった。
論文 参考訳(メタデータ) (2024-12-05T12:01:20Z) - Cross Space and Time: A Spatio-Temporal Unitized Model for Traffic Flow Forecasting [16.782154479264126]
時間的要因間の複雑な相互作用により、バックボーン・時間的トラフィックフローを予測することが課題となる。
既存のアプローチでは、これらの次元を分離し、重要な相互依存を無視している。
本稿では,空間的および時間的依存関係の両方をキャプチャする統合フレームワークであるSanonymous-Temporal Unitized Unitized Cell (ASTUC)を紹介する。
論文 参考訳(メタデータ) (2024-11-14T07:34:31Z) - Advancing Meteorological Forecasting: AI-based Approach to Synoptic Weather Map Analysis [3.686808512438363]
本研究では,新しい事前処理手法と畳み込みオートエンコーダモデルを提案する。
このモデルでは、現在の大気条件にほぼ一致する歴史的シンフォティック気象図を認識できた。
論文 参考訳(メタデータ) (2024-11-08T07:46:50Z) - WeatherFormer: Empowering Global Numerical Weather Forecasting with Space-Time Transformer [18.1906457042669]
数値気象予報システム (NWP) は近代社会に多大な影響を与えるインフラである。
従来のNWPは、複雑な偏微分方程式を巨大な計算クラスターで解き、大量の二酸化炭素を放出する。
この研究は、複雑な時間的大気力学をモデル化するための新しいトランスフォーマーベースのNWPフレームワークであるWeatherFormerを提案する。
論文 参考訳(メタデータ) (2024-09-21T07:02:31Z) - How far are today's time-series models from real-world weather forecasting applications? [22.68937280154092]
WEATHER-5Kは、現実世界のシナリオをよりよく反映した観測気象データの包括的収集である。
これにより、モデルのより良いトレーニングと、TSFモデルの現実の予測能力のより正確な評価が可能になる。
我々は,学術的TSFモデルと実世界の天気予報アプリケーションとのギャップを,研究者に明確に評価する。
論文 参考訳(メタデータ) (2024-06-20T15:18:52Z) - SFANet: Spatial-Frequency Attention Network for Weather Forecasting [54.470205739015434]
天気予報は様々な分野において重要な役割を担い、意思決定とリスク管理を推進している。
伝統的な手法は、しばしば気象系の複雑な力学を捉えるのに苦労する。
本稿では,これらの課題に対処し,天気予報の精度を高めるための新しい枠組みを提案する。
論文 参考訳(メタデータ) (2024-05-29T08:00:15Z) - WeatherFormer: A Pretrained Encoder Model for Learning Robust Weather Representations from Small Datasets [0.5735035463793009]
WeatherFormerは、最小限の観測から堅牢な気象特徴を学習するために設計されたトランスフォーマーエンコーダベースのモデルである。
ウェザーホルマーは、アメリカ大陸の39年間の衛星観測による大規模な事前訓練データセットで事前訓練された。
論文 参考訳(メタデータ) (2024-05-22T17:43:46Z) - Generalizing Weather Forecast to Fine-grained Temporal Scales via Physics-AI Hybrid Modeling [55.13352174687475]
本稿では,天気予報をより微細なテンポラルスケールに一般化する物理AIハイブリッドモデル(WeatherGFT)を提案する。
具体的には、小さな時間スケールで物理進化をシミュレートするために、慎重に設計されたPDEカーネルを用いる。
我々は、異なるリードタイムでのモデルの一般化を促進するためのリードタイムアウェアトレーニングフレームワークを導入する。
論文 参考訳(メタデータ) (2024-05-22T16:21:02Z) - Towards an end-to-end artificial intelligence driven global weather forecasting system [57.5191940978886]
我々は,地球規模の気象変動に対するAIに基づくデータ同化モデル,すなわちAdasを提案する。
我々は,アダスが地球観測を同化して高品質な分析を行い,長期にわたって安定して運用できることを実証した。
この手法を現実のシナリオに適用するのは,私たちが初めてです。
論文 参考訳(メタデータ) (2023-12-18T09:05:28Z) - Earthfarseer: Versatile Spatio-Temporal Dynamical Systems Modeling in One Model [23.875981403451256]
EarthFarseerは、並列ローカル畳み込みとグローバルなフーリエベースのトランスフォーマーアーキテクチャを組み合わせたフレームワークである。
提案手法は, 様々な収束, データセットに強い適応性を示し, 長期間の予測において, 高速で良好な局所忠実性を示す。
論文 参考訳(メタデータ) (2023-12-13T07:20:24Z) - Learning Robust Precipitation Forecaster by Temporal Frame Interpolation [65.5045412005064]
本研究では,空間的不一致に対するレジリエンスを示す頑健な降水予測モデルを構築した。
提案手法は,textit4cast'23コンペティションの移行学習リーダーボードにおいて,textit1位を確保したモデルにおいて,予測精度が大幅に向上した。
論文 参考訳(メタデータ) (2023-11-30T08:22:08Z) - Disentangling Spatial and Temporal Learning for Efficient Image-to-Video
Transfer Learning [59.26623999209235]
ビデオの空間的側面と時間的側面の学習を両立させるDiSTを提案する。
DiSTの非絡み合い学習は、大量の事前学習パラメータのバックプロパゲーションを避けるため、非常に効率的である。
5つのベンチマークの大規模な実験は、DiSTが既存の最先端メソッドよりも優れたパフォーマンスを提供することを示す。
論文 参考訳(メタデータ) (2023-09-14T17:58:33Z) - Long-term Wind Power Forecasting with Hierarchical Spatial-Temporal
Transformer [112.12271800369741]
風力発電は、再生可能、汚染のないその他の利点により、世界中の注目を集めている。
正確な風力発電予測(WPF)は、電力系統の運用における電力変動を効果的に低減することができる。
既存の手法は主に短期的な予測のために設計されており、効果的な時空間的特徴増強が欠如している。
論文 参考訳(メタデータ) (2023-05-30T04:03:15Z) - ClimaX: A foundation model for weather and climate [51.208269971019504]
ClimaXは気象と気候科学のディープラーニングモデルである。
気候データセットの自己教師型学習目標で事前トレーニングすることができる。
気候や気候の様々な問題に対処するために、微調整が可能である。
論文 参考訳(メタデータ) (2023-01-24T23:19:01Z) - GraphCast: Learning skillful medium-range global weather forecasting [107.40054095223779]
我々は、再分析データから直接トレーニングできる「GraphCast」と呼ばれる機械学習ベースの手法を導入する。
全世界で10日以上、0.25度で、数百の気象変動を1分以内で予測する。
我々は,GraphCastが1380の検証対象の90%において,最も正確な運用決定システムよりも優れていることを示す。
論文 参考訳(メタデータ) (2022-12-24T18:15:39Z) - Pangu-Weather: A 3D High-Resolution Model for Fast and Accurate Global
Weather Forecast [91.9372563527801]
我々は,世界天気予報を迅速かつ高精度に予測するためのディープラーニングベースのシステムであるPangu-Weatherを紹介する。
初めてAIベースの手法が、最先端の数値天気予報法(NWP)を精度で上回った。
Pangu-Weatherは、極端な天気予報や大規模なアンサンブル予測など、幅広い下流予測シナリオをサポートしている。
論文 参考訳(メタデータ) (2022-11-03T17:19:43Z) - Numerical Weather Forecasting using Convolutional-LSTM with Attention
and Context Matcher Mechanisms [10.759556555869798]
本稿では,高解像度気象データを予測するための新しいディープラーニングアーキテクチャを提案する。
我々の気象モデルは,ベースラインの深層学習モデルと比較して,大幅な性能向上を実現している。
論文 参考訳(メタデータ) (2021-02-01T08:30:42Z) - Physics-informed Tensor-train ConvLSTM for Volumetric Velocity
Forecasting of Loop Current [6.016102212809306]
ループカレント(英: Loop Current)は、メキシコ湾におけるループカレント(LC)の速度、垂直構造、持続時間の週間予測である。
本稿では3次元地理空間データ予測のための物理インフォームド空間訓練ConvLSTMの有効性を示す。
論文 参考訳(メタデータ) (2020-08-04T19:55:57Z) - A Spatial-Temporal Attentive Network with Spatial Continuity for
Trajectory Prediction [74.00750936752418]
空間連続性をもつ空間時間減衰ネットワーク(STAN-SC)という新しいモデルを提案する。
まず、最も有用かつ重要な情報を探るために、空間的時間的注意機構を提示する。
第2に、生成軌道の空間的連続性を維持するために、シーケンスと瞬間状態情報に基づく共同特徴系列を実行する。
論文 参考訳(メタデータ) (2020-03-13T04:35:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。