論文の概要: SEGNO: Generalizing Equivariant Graph Neural Networks with Physical
Inductive Biases
- arxiv url: http://arxiv.org/abs/2308.13212v2
- Date: Tue, 12 Mar 2024 07:49:44 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-14 01:55:31.935130
- Title: SEGNO: Generalizing Equivariant Graph Neural Networks with Physical
Inductive Biases
- Title(参考訳): SEGNO:物理誘導バイアスを用いた等変グラフニューラルネットワークの一般化
- Authors: Yang Liu, Jiashun Cheng, Haihong Zhao, Tingyang Xu, Peilin Zhao, Fugee
Tsung, Jia Li, Yu Rong
- Abstract要約: 等変性を維持しながら, 2階連続性をGNNに組み込む方法を示す。
また、SEGNOに関する理論的知見も提供し、隣接する状態間の一意の軌跡を学習できることを強調している。
我々のモデルは最先端のベースラインよりも大幅に改善されている。
- 参考スコア(独自算出の注目度): 66.61789780666727
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Graph Neural Networks (GNNs) with equivariant properties have emerged as
powerful tools for modeling complex dynamics of multi-object physical systems.
However, their generalization ability is limited by the inadequate
consideration of physical inductive biases: (1) Existing studies overlook the
continuity of transitions among system states, opting to employ several
discrete transformation layers to learn the direct mapping between two adjacent
states; (2) Most models only account for first-order velocity information,
despite the fact that many physical systems are governed by second-order motion
laws. To incorporate these inductive biases, we propose the Second-order
Equivariant Graph Neural Ordinary Differential Equation (SEGNO). Specifically,
we show how the second-order continuity can be incorporated into GNNs while
maintaining the equivariant property. Furthermore, we offer theoretical
insights into SEGNO, highlighting that it can learn a unique trajectory between
adjacent states, which is crucial for model generalization. Additionally, we
prove that the discrepancy between this learned trajectory of SEGNO and the
true trajectory is bounded. Extensive experiments on complex dynamical systems
including molecular dynamics and motion capture demonstrate that our model
yields a significant improvement over the state-of-the-art baselines.
- Abstract(参考訳): 等価特性を持つグラフニューラルネットワーク(gnns)は、多目的物理システムの複雑なダイナミクスをモデリングするための強力なツールとして登場してきた。
しかし、それらの一般化能力は、物理的帰納バイアスの不十分な考慮によって制限される:(1) 既存の研究は、システム状態間の遷移の連続性を見落とし、いくつかの離散変換層を用いて隣接する2つの状態間の直接マッピングを学習することを選択している。
これらの帰納バイアスを組み込むため、二階同変グラフニューラル正規微分方程式(SEGNO)を提案する。
具体的には、同変特性を維持しながら、二階連続性をGNNに組み込む方法を示す。
さらに、SEGNOに関する理論的知見を提供し、モデル一般化に不可欠な隣接状態間のユニークな軌道を学習できることを強調した。
さらに、このSEGNOの学習軌跡と真の軌跡との相違が有界であることを証明する。
分子動力学やモーションキャプチャーなどの複雑な力学系に関する広範な実験は、我々のモデルが最先端のベースラインよりも大きな改善をもたらすことを示している。
関連論文リスト
- Relaxing Continuous Constraints of Equivariant Graph Neural Networks for Physical Dynamics Learning [39.25135680793105]
離散同変グラフニューラルネットワーク(DEGNN)を提案する。
具体的には、幾何学的特徴を置換不変な埋め込みに変換することによって、このような離散同変メッセージパッシングを構築することができることを示す。
DEGNNはデータ効率が良く、少ないデータで学習でき、観測不能な向きなどのシナリオをまたいで一般化できることを示す。
論文 参考訳(メタデータ) (2024-06-24T03:37:51Z) - Advective Diffusion Transformers for Topological Generalization in Graph
Learning [69.2894350228753]
グラフ拡散方程式は、様々なグラフトポロジーの存在下で、どのように外挿して一般化するかを示す。
本稿では,新たなグラフエンコーダのバックボーンであるAdvective Diffusion Transformer (ADiT)を提案する。
論文 参考訳(メタデータ) (2023-10-10T08:40:47Z) - Learning Neural Constitutive Laws From Motion Observations for
Generalizable PDE Dynamics [97.38308257547186]
多くのNNアプローチは、支配的PDEと物質モデルの両方を暗黙的にモデル化するエンドツーエンドモデルを学ぶ。
PDEの管理はよく知られており、学習よりも明示的に実施されるべきである、と私たちは主張する。
そこで我々は,ネットワークアーキテクチャを利用したニューラル構成則(Neural Constitutive Laws,NCLaw)と呼ばれる新しいフレームワークを導入する。
論文 参考訳(メタデータ) (2023-04-27T17:42:24Z) - Unravelling the Performance of Physics-informed Graph Neural Networks
for Dynamical Systems [5.787429262238507]
グラフニューラルネットワーク(GNN)とその変種の性能を、明示的な制約と異なるアーキテクチャで評価する。
本研究は, 明示的制約や運動エネルギーとポテンシャルエネルギーの疎結合などの付加的な誘導バイアスを有するGNNが, 性能を著しく向上することを示した。
全ての物理インフォームドGNNは、訓練システムよりも桁違いの大きさのシステムサイズに対してゼロショットの一般化性を示し、大規模な現実的なシステムをシミュレートする有望な経路を提供する。
論文 参考訳(メタデータ) (2022-11-10T12:29:30Z) - Learning Physical Dynamics with Subequivariant Graph Neural Networks [99.41677381754678]
グラフニューラルネットワーク(GNN)は、物理力学を学習するための一般的なツールとなっている。
物理法則は、モデル一般化に必須な帰納バイアスである対称性に従属する。
本モデルは,RigidFall上でのPhysylonと2倍低ロールアウトMSEの8つのシナリオにおいて,平均3%以上の接触予測精度の向上を実現している。
論文 参考訳(メタデータ) (2022-10-13T10:00:30Z) - Equivariant Graph Mechanics Networks with Constraints [83.38709956935095]
本稿では,グラフ力学ネットワーク(GMN)を提案する。
GMNは、一般化された座標により、構造体の前方運動学情報(位置と速度)を表す。
大規模な実験は、予測精度、制約満足度、データ効率の観点から、最先端のGNNと比較してGMNの利点を支持する。
論文 参考訳(メタデータ) (2022-03-12T14:22:14Z) - Linearization and Identification of Multiple-Attractors Dynamical System
through Laplacian Eigenmaps [8.161497377142584]
速度拡張カーネルを利用したグラフベースのスペクトルクラスタリング手法を提案し,同じダイナミックスに属するデータポイントを接続する。
部分力学が線型であり、n-次元埋め込みが準線型であるような2次元埋め込み空間が常に存在することを証明する。
我々は、ラプラシアン埋め込み空間から元の空間への微分同相性を学び、ラプラシアン埋め込みが良好な再構成精度とより高速な訓練時間をもたらすことを示す。
論文 参考訳(メタデータ) (2022-02-18T12:43:25Z) - On Second Order Behaviour in Augmented Neural ODEs [69.8070643951126]
第二次ニューラルノード(ソノド)を考える
副次感度法がSONODEにどのように拡張できるかを示す。
我々は拡張NODE(Augmented NODEs)のより広範なクラスの理論的理解を拡張した。
論文 参考訳(メタデータ) (2020-06-12T14:25:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。