論文の概要: Earthfarseer: Versatile Spatio-Temporal Dynamical Systems Modeling in
One Model
- arxiv url: http://arxiv.org/abs/2312.08403v1
- Date: Wed, 13 Dec 2023 07:20:24 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-16 03:11:05.871254
- Title: Earthfarseer: Versatile Spatio-Temporal Dynamical Systems Modeling in
One Model
- Title(参考訳): アースファシー:一モデルにおける垂直時空間力学系モデリング
- Authors: Hao Wu, Shilong Wang, Yuxuan Liang, Zhengyang Zhou, Wei Huang, Wei
Xiong, Kun Wang
- Abstract要約: EarthFarseerは、並列ローカル畳み込みとグローバルなフーリエベースのトランスフォーマーアーキテクチャを組み合わせたフレームワークである。
提案手法は, 様々な収束, データセットに強い適応性を示し, 長期間の予測において, 高速で良好な局所忠実性を示す。
- 参考スコア(独自算出の注目度): 25.07325969704645
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Efficiently modeling spatio-temporal (ST) physical processes and observations
presents a challenging problem for the deep learning community. Many recent
studies have concentrated on meticulously reconciling various advantages,
leading to designed models that are neither simple nor practical. To address
this issue, this paper presents a systematic study on existing shortcomings
faced by off-the-shelf models, including lack of local fidelity, poor
prediction performance over long time-steps,low scalability, and inefficiency.
To systematically address the aforementioned problems, we propose an
EarthFarseer, a concise framework that combines parallel local convolutions and
global Fourier-based transformer architectures, enabling dynamically capture
the local-global spatial interactions and dependencies. EarthFarseer also
incorporates a multi-scale fully convolutional and Fourier architectures to
efficiently and effectively capture the temporal evolution. Our proposal
demonstrates strong adaptability across various tasks and datasets, with fast
convergence and better local fidelity in long time-steps predictions. Extensive
experiments and visualizations over eight human society physical and natural
physical datasets demonstrates the state-of-the-art performance of
EarthFarseer. We release our code at
https://github.com/easylearningscores/EarthFarseer.
- Abstract(参考訳): 時空間(ST)物理過程と観察を効果的にモデル化することは、ディープラーニングコミュニティにとって難しい問題である。
最近の多くの研究は細心の注意を払って様々な利点を調整し、単純でも実用的でもない設計モデルへと導いてきた。
そこで本研究では, 市販モデルが抱える既存の欠点について, 局所的忠実性の欠如, 長期にわたる予測性能の低下, スケーラビリティの低下, 効率の低下など, 系統的に検討した。
並列局所畳み込みとグローバルフーリエに基づくトランスフォーマーアーキテクチャを組み合わせて,局所的空間的相互作用と依存関係を動的にキャプチャする,簡潔なフレームワークであるearthfarseerを提案する。
EarthFarseerはまた、時間的進化を効率的に効果的に捉えるために、マルチスケールの完全な畳み込みとフーリエアーキテクチャも組み込んでいる。
本提案は,様々なタスクやデータセットにまたがる強い適応性を示し,長い時間ステップ予測において高速収束と局所的忠実性の向上をもたらす。
8つの人間社会の物理と自然の物理的データセットに関する広範囲な実験と可視化は、earthfarseerの最先端のパフォーマンスを示している。
私たちはコードをhttps://github.com/easylearningscores/earthfarseerでリリースします。
関連論文リスト
- Stragglers-Aware Low-Latency Synchronous Federated Learning via Layer-Wise Model Updates [71.81037644563217]
同期フェデレーションラーニング(FL)は、協調エッジラーニングの一般的なパラダイムである。
一部のデバイスは計算資源が限られており、様々な可用性があるため、FLレイテンシはストラグラーに非常に敏感である。
本稿では,NNの最適化手法をバックプロパゲーションにより活用し,グローバルモデルを階層的に更新するストラグラー対応層対応学習(SALF)を提案する。
論文 参考訳(メタデータ) (2024-03-27T09:14:36Z) - ImputeFormer: Low Rankness-Induced Transformers for Generalizable
Spatiotemporal Imputation [43.684035409535696]
タイムラプスの欠如は、科学的なタスク、特にエンジニアリングデータのモデリングにおいて広範囲にわたる問題である。
既存の計算ソリューションには、低ランクモデルとディープラーニングモデルが含まれる。
強い帰納バイアスと高いモデル表現率のバランスをとるためのトランスフォーマーモデルを実証する。
論文 参考訳(メタデータ) (2023-12-04T08:35:31Z) - OpenSTL: A Comprehensive Benchmark of Spatio-Temporal Predictive
Learning [67.07363529640784]
提案するOpenSTLは,一般的なアプローチを再帰的モデルと再帰的モデルに分類する。
我々は, 合成移動物体軌道, 人間の動き, 運転シーン, 交通流, 天気予報など, さまざまな領域にわたるデータセットの標準評価を行う。
リカレントフリーモデルは、リカレントモデルよりも効率と性能のバランスが良いことがわかった。
論文 参考訳(メタデータ) (2023-06-20T03:02:14Z) - Spherical Fourier Neural Operators: Learning Stable Dynamics on the
Sphere [53.63505583883769]
球面幾何学の演算子を学習するための球面FNO(SFNO)を紹介する。
SFNOは、気候力学の機械学習に基づくシミュレーションに重要な意味を持つ。
論文 参考訳(メタデータ) (2023-06-06T16:27:17Z) - Automated Spatio-Temporal Graph Contrastive Learning [18.245433428868775]
パラメータ化コントラストビュージェネレータを用いた時間自動拡張方式を開発した。
AutoSTは多視点セマンティクスをよく保存した異種グラフに適応することができる。
いくつかの実世界のデータセットで3つのダウンストリーム時間的マイニングタスクの実験は、大きなパフォーマンス向上を示している。
論文 参考訳(メタデータ) (2023-05-06T03:52:33Z) - Global-to-Local Modeling for Video-based 3D Human Pose and Shape
Estimation [53.04781510348416]
フレーム内精度とフレーム間スムーズさにより,映像に基づく3次元人間のポーズと形状推定を評価する。
エンドツーエンドフレームワークGLoT(Global-to-Local Transformer)における長期的・短期的相関のモデル化を構造的に分離することを提案する。
我々のGLoTは、一般的なベンチマーク(3DPW、MPI-INF-3DHP、Human3.6M)において、最も低いモデルパラメータを持つ従来の最先端の手法を上回る。
論文 参考訳(メタデータ) (2023-03-26T14:57:49Z) - Inference from Real-World Sparse Measurements [21.194357028394226]
実世界の問題は、しばしば複雑で非構造的な測定セットが伴うが、これはセンサーが空間または時間に狭く配置されているときに起こる。
セットからセットまで様々な位置で測定セットを処理し、どこででも読み出しを抽出できるディープラーニングアーキテクチャは、方法論的に困難である。
本稿では,適用性と実用的堅牢性に着目したアテンションベースモデルを提案する。
論文 参考訳(メタデータ) (2022-10-20T13:42:20Z) - Fine-tuning Global Model via Data-Free Knowledge Distillation for
Non-IID Federated Learning [86.59588262014456]
フェデレートラーニング(Federated Learning, FL)は、プライバシ制約下での分散学習パラダイムである。
サーバ内のグローバルモデル(FedFTG)を微調整するデータフリー知識蒸留法を提案する。
私たちのFedFTGは最先端(SOTA)のFLアルゴリズムよりも優れており、FedAvg、FedProx、FedDyn、SCAFFOLDの強化のための強力なプラグインとして機能します。
論文 参考訳(メタデータ) (2022-03-17T11:18:17Z) - Leveraging the structure of dynamical systems for data-driven modeling [111.45324708884813]
トレーニングセットとその構造が長期予測の品質に与える影響を考察する。
トレーニングセットのインフォームドデザインは,システムの不変性と基盤となるアトラクションの構造に基づいて,結果のモデルを大幅に改善することを示す。
論文 参考訳(メタデータ) (2021-12-15T20:09:20Z) - SPATE-GAN: Improved Generative Modeling of Dynamic Spatio-Temporal
Patterns with an Autoregressive Embedding Loss [4.504870356809408]
本稿では、時間的ダイナミクスの学習を強化するために、自己回帰埋め込みに基づく-GANと組み合わせた新しい損失目標を提案する。
組込み損失は -GAN のアーキテクチャを変更することなく性能を向上し,自己相関構造に対するモデルの能力向上を浮き彫りにしている。
論文 参考訳(メタデータ) (2021-09-30T12:10:05Z) - Physics-Coupled Spatio-Temporal Active Learning for Dynamical Systems [15.923190628643681]
主な課題の1つは、認識されたデータストリームを生成する根本原因を推測することである。
機械学習ベースの予測モデルの成功は、モデルトレーニングに大量の注釈付きデータを必要とする。
提案するST-PCNNは, 実世界のデータセットと実世界のデータセットの両方において, 極めて少ないインスタンスで最適精度に収束することを示した。
論文 参考訳(メタデータ) (2021-08-11T18:05:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。