Fugu-MT 論文翻訳(概要): Spacetime $E(n)$-Transformer: Equivariant Attention for Spatio-temporal Graphs

論文の概要: Spacetime $E(n)$-Transformer: Equivariant Attention for Spatio-temporal Graphs

arxiv url: http://arxiv.org/abs/2408.06039v1
Date: Mon, 12 Aug 2024 10:13:45 GMT
ステータス: 処理完了
システム内更新日: 2024-08-13 13:23:51.982654
Title: Spacetime $E(n)$-Transformer: Equivariant Attention for Spatio-temporal Graphs
Title（参考訳）: Spacetime $E(n)$-transformer:時空間グラフの同変アテンション
Authors: Sergio G. Charles,
Abstract要約: 時空$E(n)$-transformer (SET) は対称性のない純粋に空間的および時間的モデルより優れていることを示す。基礎となる領域対称性を活用することで、グラフ上のモデリングシステムに大きな改善がもたらされることを実証する。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by/4.0/
Abstract: We introduce an $E(n)$-equivariant Transformer architecture for spatio-temporal graph data. By imposing rotation, translation, and permutation equivariance inductive biases in both space and time, we show that the Spacetime $E(n)$-Transformer (SET) outperforms purely spatial and temporal models without symmetry-preserving properties. We benchmark SET against said models on the charged $N$-body problem, a simple physical system with complex dynamics. While existing spatio-temporal graph neural networks focus on sequential modeling, we empirically demonstrate that leveraging underlying domain symmetries yields considerable improvements for modeling dynamical systems on graphs.
Abstract（参考訳）: 時空間グラフデータに対する$E(n)$-equivariant Transformerアーキテクチャを提案する。回転, 変換, 置換等分散の帰納バイアスを時空ともに付与することにより, 時空$E(n)$-transformer (SET) が対称性保存性のない純粋に空間的および時間的モデルより優れていることを示す。我々は、複雑な力学を持つ単純な物理系である電荷付き$N$-body問題において、上記のモデルに対してSETをベンチマークする。既存の時空間グラフニューラルネットワークはシーケンシャルモデリングに重点を置いているが、基礎となるドメイン対称性を活用することでグラフ上の力学系をモデル化するための大幅な改善が得られたことを実証的に示す。

関連論文リスト

Latent Space Energy-based Neural ODEs [73.01344439786524]
本稿では,連続時間シーケンスデータを表現するために設計された深部力学モデルの新しいファミリを紹介する。マルコフ連鎖モンテカルロの最大推定値を用いてモデルを訓練する。発振システム、ビデオ、実世界の状態シーケンス(MuJoCo)の実験は、学習可能なエネルギーベース以前のODEが既存のものより優れていることを示している。
論文参考訳（メタデータ） (2024-09-05T18:14:22Z)
Relaxing Continuous Constraints of Equivariant Graph Neural Networks for Physical Dynamics Learning [39.25135680793105]
離散同変グラフニューラルネットワーク(DEGNN)を提案する。具体的には、幾何学的特徴を置換不変な埋め込みに変換することによって、このような離散同変メッセージパッシングを構築することができることを示す。 DEGNNはデータ効率が良く、少ないデータで学習でき、観測不能な向きなどのシナリオをまたいで一般化できることを示す。
論文参考訳（メタデータ） (2024-06-24T03:37:51Z)
State Space Models on Temporal Graphs: A First-Principles Study [30.531930200222423]
深層グラフ学習の研究は、動的挙動を示す実世界の複雑なシステムに応答して、静的グラフから時間グラフへ移行した。 RNNやTransformerのようなシーケンスモデルは、このような時間グラフをモデル化するための主要なバックボーンネットワークである。時間グラフのダイナミクスをモデル化するためのグラフ状態空間モデルであるGraphSSMを開発した。
論文参考訳（メタデータ） (2024-06-03T02:56:11Z)
Equivariant Spatio-Temporal Attentive Graph Networks to Simulate Physical Dynamics [32.115887916401036]
本研究では,物理系の力学を表現・シミュレートするFourier-temporal GNNの同変版を開発する。分子レベル,タンパク質レベル,マクロレベルに対応する3つの実データセットについて,本モデルの評価を行った。
論文参考訳（メタデータ） (2024-05-21T15:33:21Z)
Equivariant Graph Neural Operator for Modeling 3D Dynamics [148.98826858078556]
我々は,次のステップの予測ではなく,ダイナミックスを直接トラジェクトリとしてモデル化するために,Equivariant Graph Neural Operator (EGNO)を提案する。 EGNOは3次元力学の時間的進化を明示的に学習し、時間とともに関数として力学を定式化し、それを近似するためにニューラル演算子を学習する。粒子シミュレーション、人間のモーションキャプチャー、分子動力学を含む複数の領域における総合的な実験は、既存の手法と比較して、EGNOの極めて優れた性能を示す。
論文参考訳（メタデータ） (2024-01-19T21:50:32Z)
Mending of Spatio-Temporal Dependencies in Block Adjacency Matrix [3.529869282529924]
本稿では,時間的依存を考慮に入れた新たなエンドツーエンド学習アーキテクチャを提案する。提案手法は,SurgVisDomやC2D2などのベンチマークデータセット上での優れた性能を示す。
論文参考訳（メタデータ） (2023-10-04T06:42:33Z)
Capturing dynamical correlations using implicit neural representations [85.66456606776552]
実験データから未知のパラメータを復元するために、モデルハミルトンのシミュレーションデータを模倣するために訓練されたニューラルネットワークと自動微分を組み合わせた人工知能フレームワークを開発する。そこで本研究では, 実時間から多次元散乱データに適用可能な微分可能なモデルを1回だけ構築し, 訓練する能力について述べる。
論文参考訳（メタデータ） (2023-04-08T07:55:36Z)
Spatial Attention Kinetic Networks with E(n)-Equivariance [0.951828574518325]
回転、翻訳、反射、n次元幾何学空間上の置換と等価なニューラルネットワークは、物理モデリングにおいて有望であることを示している。本稿では, エッジベクトルの線形結合をニューラルネットワークでパラメトリケートし, 等価性を実現するための, 簡易な代替関数形式を提案する。 E(n)-等価性を持つ空間的注意運動ネットワーク(SAKE)を設計する。
論文参考訳（メタデータ） (2023-01-21T05:14:29Z)
Multivariate Time Series Forecasting with Dynamic Graph Neural ODEs [65.18780403244178]
動的グラフニューラル正規微分方程式(MTGODE)を用いた多変量時系列予測連続モデルを提案する。具体的には、まず、時間進化するノードの特徴と未知のグラフ構造を持つ動的グラフに多変量時系列を抽象化する。そして、欠落したグラフトポロジを補完し、空間的および時間的メッセージパッシングを統一するために、ニューラルODEを設計、解決する。
論文参考訳（メタデータ） (2022-02-17T02:17:31Z)
Space-Time Graph Neural Networks [104.55175325870195]
本研究では、時空間グラフニューラルネットワーク(ST-GNN)を導入し、時間変動ネットワークデータの時空間トポロジを共同処理する。解析の結果,システムのネットワークトポロジと時間進化の変動はST-GNNの性能に大きく影響しないことがわかった。
論文参考訳（メタデータ） (2021-10-06T16:08:44Z)
Hyperbolic Variational Graph Neural Network for Modeling Dynamic Graphs [77.33781731432163]
我々は,ノード表現の推論を目的とした双曲空間における動的グラフ表現を初めて学習する。本稿では,HVGNNと呼ばれる新しいハイパーボリック変動グラフネットワークを提案する。特に,動力学をモデル化するために,理論的に接地した時間符号化手法に基づく時間gnn(tgnn)を導入する。
論文参考訳（メタデータ） (2021-04-06T01:44:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。