論文の概要: A Gravity-informed Spatiotemporal Transformer for Human Activity Intensity Prediction
- arxiv url: http://arxiv.org/abs/2506.13678v3
- Date: Mon, 08 Sep 2025 08:53:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-09 16:12:15.182897
- Title: A Gravity-informed Spatiotemporal Transformer for Human Activity Intensity Prediction
- Title(参考訳): 重力インフォームド時空間変圧器による人間の活動強度予測
- Authors: Yi Wang, Zhenghong Wang, Fan Zhang, Chaogui Kang, Sijie Ruan, Di Zhu, Chengling Tang, Zhongfu Ma, Weiyu Zhang, Yu Zheng, Philip S. Yu, Yu Liu,
- Abstract要約: 本研究では,重力インフォームド時空間変換器(重力変換器)という物理インフォームド深層学習フレームワークを提案する。
6つの実世界の大規模活動データセットの実験は、最先端のベンチマークよりも、我々のモデルの量的および質的な優位性を実証している。
- 参考スコア(独自算出の注目度): 38.079618124577976
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Human activity intensity prediction is crucial to many location-based services. Despite tremendous progress in modeling dynamics of human activity, most existing methods overlook physical constraints of spatial interaction, leading to uninterpretable spatial correlations and over-smoothing phenomenon. To address these limitations, this work proposes a physics-informed deep learning framework, namely Gravity-informed Spatiotemporal Transformer (Gravityformer) by integrating the universal law of gravitation to refine transformer attention. Specifically, it (1) estimates two spatially explicit mass parameters based on spatiotemporal embedding feature, (2) models the spatial interaction in end-to-end neural network using proposed adaptive gravity model to learn the physical constraint, and (3) utilizes the learned spatial interaction to guide and mitigate the over-smoothing phenomenon in transformer attention. Moreover, a parallel spatiotemporal graph convolution transformer is proposed for achieving a balance between coupled spatial and temporal learning. Systematic experiments on six real-world large-scale activity datasets demonstrate the quantitative and qualitative superiority of our model over state-of-the-art benchmarks. Additionally, the learned gravity attention matrix can be not only disentangled and interpreted based on geographical laws, but also improved the generalization in zero-shot cross-region inference. This work provides a novel insight into integrating physical laws with deep learning for spatiotemporal prediction.
- Abstract(参考訳): 人間の活動強度の予測は多くの位置情報ベースのサービスにとって不可欠である。
人間の活動のモデリングが著しく進歩したにもかかわらず、既存の手法は空間的相互作用の物理的制約を見落とし、解釈不能な空間相関と過度に平滑な現象をもたらす。
これらの制約に対処するため、この研究は重力インフォームド時空間変圧器(グラビティフォーマ)という物理インフォームド深層学習フレームワークを提案し、重力の普遍的な法則を統合してトランスフォーマーの注意を洗練させる。
具体的には,(1)時空間埋め込みの特徴に基づいて空間的に明示的な2つの質量パラメータを推定し,(2)適応重力モデルを用いて終端ニューラルネットワークにおける空間的相互作用をモデル化し,(3)学習された空間的相互作用を用いてトランスフォーマーの注意を誘導・緩和する。
さらに,空間学習と時間学習のバランスをとるために,並列時空間グラフ畳み込み変換器を提案する。
6つの実世界の大規模活動データセットの体系的な実験は、最先端のベンチマークよりも、我々のモデルの量的および質的な優位性を実証している。
さらに、学習された重力アテンション行列は、地理的法則に基づいて歪んだり解釈したりできるだけでなく、ゼロショットのクロスリージョン推論における一般化も改善できる。
この研究は、時空間予測のための深層学習と物理法則の統合に関する新しい洞察を提供する。
関連論文リスト
- Langevin Flows for Modeling Neural Latent Dynamics [81.81271685018284]
逐次変分自動エンコーダであるLangevinFlowを導入し、潜伏変数の時間的進化をアンダーダム化したLangevin方程式で制御する。
われわれのアプローチは、慣性、減衰、学習されたポテンシャル関数、力などの物理的事前を組み込んで、ニューラルネットワークにおける自律的および非自律的プロセスの両方を表現する。
本手法は,ロレンツ誘引器によって生成される合成神経集団に対する最先端のベースラインより優れる。
論文 参考訳(メタデータ) (2025-07-15T17:57:48Z) - Conservation-informed Graph Learning for Spatiotemporal Dynamics Prediction [84.26340606752763]
本稿では,保護インフォームドGNN(CiGNN)について紹介する。
このネットワークは、保守的かつ非保守的な情報が、潜時的行進戦略によって多次元空間を通過する対称性による一般的な対称性保存則に従うように設計されている。
結果は,CiGNNが顕著なベースライン精度と一般化性を示し,様々な時間的ダイナミクスの予測のための学習に容易に適用可能であることを示した。
論文 参考訳(メタデータ) (2024-12-30T13:55:59Z) - Smooth and Sparse Latent Dynamics in Operator Learning with Jerk
Regularization [1.621267003497711]
本稿では,圧縮された潜在空間の学習にジャッジ正規化を組み込んだ連続演算子学習フレームワークを提案する。
このフレームワークは、任意の所望の空間的あるいは時間的解像度での推論を可能にする。
この枠組みの有効性は、ナヴィエ・ストークス方程式によって支配される二次元非定常流問題によって証明される。
論文 参考訳(メタデータ) (2024-02-23T22:38:45Z) - Triplet Attention Transformer for Spatiotemporal Predictive Learning [9.059462850026216]
本稿では,フレーム間動的特徴とフレーム内静的特徴の両方を捉えるために,革新的な三重項注意変換器を提案する。
このモデルはトリプレット・アテンション・モジュール(TAM)を組み込んだもので、時間、空間、チャネル次元における自己アテンションのメカニズムを探求することで、従来のリカレント・ユニットを置き換える。
論文 参考訳(メタデータ) (2023-10-28T12:49:33Z) - Spatio-Temporal Branching for Motion Prediction using Motion Increments [55.68088298632865]
HMP(Human Motion Prediction)はその多種多様な応用により、人気のある研究トピックとして浮上している。
従来の手法は手作りの機能と機械学習技術に依存している。
HMPのためのインクリメンタル情報を用いた時空間分岐ネットワークを提案する。
論文 参考訳(メタデータ) (2023-08-02T12:04:28Z) - Learning Physical Dynamics with Subequivariant Graph Neural Networks [99.41677381754678]
グラフニューラルネットワーク(GNN)は、物理力学を学習するための一般的なツールとなっている。
物理法則は、モデル一般化に必須な帰納バイアスである対称性に従属する。
本モデルは,RigidFall上でのPhysylonと2倍低ロールアウトMSEの8つのシナリオにおいて,平均3%以上の接触予測精度の向上を実現している。
論文 参考訳(メタデータ) (2022-10-13T10:00:30Z) - Motion Prediction via Joint Dependency Modeling in Phase Space [40.54430409142653]
我々は、運動解剖学の明示的な事前知識を活用するために、新しい畳み込みニューラルモデルを導入する。
次に,個々の関節機能間の暗黙的関係を学習するグローバル最適化モジュールを提案する。
本手法は,大規模な3次元人体動作ベンチマークデータセットを用いて評価する。
論文 参考訳(メタデータ) (2022-01-07T08:30:01Z) - Physics-Coupled Spatio-Temporal Active Learning for Dynamical Systems [15.923190628643681]
主な課題の1つは、認識されたデータストリームを生成する根本原因を推測することである。
機械学習ベースの予測モデルの成功は、モデルトレーニングに大量の注釈付きデータを必要とする。
提案するST-PCNNは, 実世界のデータセットと実世界のデータセットの両方において, 極めて少ないインスタンスで最適精度に収束することを示した。
論文 参考訳(メタデータ) (2021-08-11T18:05:55Z) - A Spatial-Temporal Attentive Network with Spatial Continuity for
Trajectory Prediction [74.00750936752418]
空間連続性をもつ空間時間減衰ネットワーク(STAN-SC)という新しいモデルを提案する。
まず、最も有用かつ重要な情報を探るために、空間的時間的注意機構を提示する。
第2に、生成軌道の空間的連続性を維持するために、シーケンスと瞬間状態情報に基づく共同特徴系列を実行する。
論文 参考訳(メタデータ) (2020-03-13T04:35:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。