論文の概要: Earthfarseer: Versatile Spatio-Temporal Dynamical Systems Modeling in One Model
- arxiv url: http://arxiv.org/abs/2312.08403v3
- Date: Mon, 3 Jun 2024 11:46:47 GMT
- ステータス: 処理完了
- システム内更新日: 2024-06-04 20:01:52.189205
- Title: Earthfarseer: Versatile Spatio-Temporal Dynamical Systems Modeling in One Model
- Title(参考訳): アースファシー:一モデルにおける垂直時空間力学系モデリング
- Authors: Hao Wu, Yuxuan Liang, Wei Xiong, Zhengyang Zhou, Wei Huang, Shilong Wang, Kun Wang,
- Abstract要約: EarthFarseerは、並列ローカル畳み込みとグローバルなフーリエベースのトランスフォーマーアーキテクチャを組み合わせたフレームワークである。
提案手法は, 様々な収束, データセットに強い適応性を示し, 長期間の予測において, 高速で良好な局所忠実性を示す。
- 参考スコア(独自算出の注目度): 23.875981403451256
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Efficiently modeling spatio-temporal (ST) physical processes and observations presents a challenging problem for the deep learning community. Many recent studies have concentrated on meticulously reconciling various advantages, leading to designed models that are neither simple nor practical. To address this issue, this paper presents a systematic study on existing shortcomings faced by off-the-shelf models, including lack of local fidelity, poor prediction performance over long time-steps,low scalability, and inefficiency. To systematically address the aforementioned problems, we propose an EarthFarseer, a concise framework that combines parallel local convolutions and global Fourier-based transformer architectures, enabling dynamically capture the local-global spatial interactions and dependencies. EarthFarseer also incorporates a multi-scale fully convolutional and Fourier architectures to efficiently and effectively capture the temporal evolution. Our proposal demonstrates strong adaptability across various tasks and datasets, with fast convergence and better local fidelity in long time-steps predictions. Extensive experiments and visualizations over eight human society physical and natural physical datasets demonstrates the state-of-the-art performance of EarthFarseer. We release our code at https://github.com/easylearningscores/EarthFarseer.
- Abstract(参考訳): 時空間(ST)物理過程と観察を効果的にモデル化することは、ディープラーニングコミュニティにとって難しい問題である。
近年の多くの研究は、様々な利点を巧みに整合させることに集中しており、単純で実用的でもない設計モデルに繋がっている。
そこで本研究では, 市販モデルが抱える既存の欠点について, 局所的忠実性の欠如, 長期にわたる予測性能の低下, スケーラビリティの低下, 効率の低下などについて, 系統的に検討する。
本研究では, 並列な局所的畳み込みとグローバルなフーリエ型トランスフォーマーアーキテクチャを組み合わせた簡潔なフレームワークであるEarthFarseerを提案する。
EarthFarseerはまた、時間的進化を効率的に効果的に捉えるために、マルチスケールの完全な畳み込みとフーリエアーキテクチャも組み込んでいる。
提案手法は, 様々なタスクやデータセットに対して高い適応性を示し, 短時間で収束し, 時間経過予測における局所忠実度が向上する。
8つの人間社会と自然の物理的データセットに対する大規模な実験と可視化は、アースファーサーの最先端のパフォーマンスを実証している。
コードについてはhttps://github.com/easylearningscores/EarthFarseer.comで公開しています。
関連論文リスト
- ClimateLLM: Efficient Weather Forecasting via Frequency-Aware Large Language Models [13.740208247043258]
天気予報の基礎モデルであるClimateLLMを提案する。
時間的および空間横断的な協調フレームワークを通じて、時間的依存関係をキャプチャする。
周波数分解と大言語モデルを統合し、空間的および時間的モデリングを強化する。
論文 参考訳(メタデータ) (2025-02-16T09:57:50Z) - Conservation-informed Graph Learning for Spatiotemporal Dynamics Prediction [84.26340606752763]
本稿では,保護インフォームドGNN(CiGNN)について紹介する。
このネットワークは、保守的かつ非保守的な情報が、潜時的行進戦略によって多次元空間を通過する対称性による一般的な対称性保存則に従うように設計されている。
結果は,CiGNNが顕著なベースライン精度と一般化性を示し,様々な時間的ダイナミクスの予測のための学習に容易に適用可能であることを示した。
論文 参考訳(メタデータ) (2024-12-30T13:55:59Z) - ST-ReP: Learning Predictive Representations Efficiently for Spatial-Temporal Forecasting [7.637123047745445]
自己監督的手法は空間的時間的表現の学習にますます適応している。
現在の値再構成と将来の値予測は、事前学習フレームワークに統合される。
予測能力を高めるために,マルチタイムスケール分析を自己監督的損失に組み込む。
論文 参考訳(メタデータ) (2024-12-19T05:33:55Z) - SPARTAN: A Sparse Transformer Learning Local Causation [63.29645501232935]
因果構造は、環境の変化に柔軟に適応する世界モデルにおいて中心的な役割を果たす。
本研究では,SPARse TrANsformer World Model(SPARTAN)を提案する。
オブジェクト指向トークン間の注意パターンに空間規則を適用することで、SPARTANは、将来のオブジェクト状態を正確に予測するスパース局所因果モデルを特定する。
論文 参考訳(メタデータ) (2024-11-11T11:42:48Z) - Learning Spatiotemporal Dynamical Systems from Point Process Observations [7.381752536547389]
現在のニューラルネットワークベースのモデルアプローチは、時間と空間でランダムに収集されるデータに直面したときに不足する。
そこで我々は,このようなプロセス観察から効果的に学習できる新しい手法を開発した。
我々のモデルは、ニューラルディファレンシャル方程式、ニューラルポイントプロセス、暗黙のニューラル表現、そしてアモータライズされた変分推論の技法を統合している。
論文 参考訳(メタデータ) (2024-06-01T09:03:32Z) - Stragglers-Aware Low-Latency Synchronous Federated Learning via Layer-Wise Model Updates [71.81037644563217]
同期フェデレーションラーニング(FL)は、協調エッジラーニングの一般的なパラダイムである。
一部のデバイスは計算資源が限られており、様々な可用性があるため、FLレイテンシはストラグラーに非常に敏感である。
本稿では,NNの最適化手法をバックプロパゲーションにより活用し,グローバルモデルを階層的に更新するストラグラー対応層対応学習(SALF)を提案する。
論文 参考訳(メタデータ) (2024-03-27T09:14:36Z) - OpenSTL: A Comprehensive Benchmark of Spatio-Temporal Predictive
Learning [67.07363529640784]
提案するOpenSTLは,一般的なアプローチを再帰的モデルと再帰的モデルに分類する。
我々は, 合成移動物体軌道, 人間の動き, 運転シーン, 交通流, 天気予報など, さまざまな領域にわたるデータセットの標準評価を行う。
リカレントフリーモデルは、リカレントモデルよりも効率と性能のバランスが良いことがわかった。
論文 参考訳(メタデータ) (2023-06-20T03:02:14Z) - Spherical Fourier Neural Operators: Learning Stable Dynamics on the
Sphere [53.63505583883769]
球面幾何学の演算子を学習するための球面FNO(SFNO)を紹介する。
SFNOは、気候力学の機械学習に基づくシミュレーションに重要な意味を持つ。
論文 参考訳(メタデータ) (2023-06-06T16:27:17Z) - Global-to-Local Modeling for Video-based 3D Human Pose and Shape
Estimation [53.04781510348416]
フレーム内精度とフレーム間スムーズさにより,映像に基づく3次元人間のポーズと形状推定を評価する。
エンドツーエンドフレームワークGLoT(Global-to-Local Transformer)における長期的・短期的相関のモデル化を構造的に分離することを提案する。
我々のGLoTは、一般的なベンチマーク(3DPW、MPI-INF-3DHP、Human3.6M)において、最も低いモデルパラメータを持つ従来の最先端の手法を上回る。
論文 参考訳(メタデータ) (2023-03-26T14:57:49Z) - Inference from Real-World Sparse Measurements [21.194357028394226]
実世界の問題は、しばしば複雑で非構造的な測定セットが伴うが、これはセンサーが空間または時間に狭く配置されているときに起こる。
セットからセットまで様々な位置で測定セットを処理し、どこででも読み出しを抽出できるディープラーニングアーキテクチャは、方法論的に困難である。
本稿では,適用性と実用的堅牢性に着目したアテンションベースモデルを提案する。
論文 参考訳(メタデータ) (2022-10-20T13:42:20Z) - Physics-Coupled Spatio-Temporal Active Learning for Dynamical Systems [15.923190628643681]
主な課題の1つは、認識されたデータストリームを生成する根本原因を推測することである。
機械学習ベースの予測モデルの成功は、モデルトレーニングに大量の注釈付きデータを必要とする。
提案するST-PCNNは, 実世界のデータセットと実世界のデータセットの両方において, 極めて少ないインスタンスで最適精度に収束することを示した。
論文 参考訳(メタデータ) (2021-08-11T18:05:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。