論文の概要: Smoothness Errors in Dynamics Models and How to Avoid Them
- arxiv url: http://arxiv.org/abs/2602.05352v1
- Date: Thu, 05 Feb 2026 06:23:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-06 18:49:08.784433
- Title: Smoothness Errors in Dynamics Models and How to Avoid Them
- Title(参考訳): ダイナミクスモデルにおける滑らかさ誤差とその回避法
- Authors: Edward Berman, Luisa Li, Jung Yeon Park, Robin Walters,
- Abstract要約: 動的モデリングにおける異なるGNNの平滑化効果について検討し、ユニタリ畳み込みがそのようなタスクの性能を損なうことを証明した。
物理的システムに必要な自然な平滑化と滑らかさのバランスをとるような緩和されたユニタリ畳み込みを提案する。
- 参考スコア(独自算出の注目度): 12.250328115115733
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Modern neural networks have shown promise for solving partial differential equations over surfaces, often by discretizing the surface as a mesh and learning with a mesh-aware graph neural network. However, graph neural networks suffer from oversmoothing, where a node's features become increasingly similar to those of its neighbors. Unitary graph convolutions, which are mathematically constrained to preserve smoothness, have been proposed to address this issue. Despite this, in many physical systems, such as diffusion processes, smoothness naturally increases and unitarity may be overconstraining. In this paper, we systematically study the smoothing effects of different GNNs for dynamics modeling and prove that unitary convolutions hurt performance for such tasks. We propose relaxed unitary convolutions that balance smoothness preservation with the natural smoothing required for physical systems. We also generalize unitary and relaxed unitary convolutions from graphs to meshes. In experiments on PDEs such as the heat and wave equations over complex meshes and on weather forecasting, we find that our method outperforms several strong baselines, including mesh-aware transformers and equivariant neural networks.
- Abstract(参考訳): 現代のニューラルネットワークは、表面をメッシュとして認識し、メッシュを意識したグラフニューラルネットワークで学習することで、表面上の偏微分方程式を解くことを約束している。
しかし、グラフニューラルネットワークは過剰なスムース化に悩まされ、ノードの特徴はその隣人の特徴とますます似ている。
平滑性を保つために数学的に制約されたユニタリグラフ畳み込みがこの問題に対処するために提案されている。
それにもかかわらず、拡散過程のような多くの物理系では、滑らかさは自然に増加し、ユニタリティは過剰に拘束される。
本稿では,動的モデリングにおける異なるGNNの平滑化効果を体系的に研究し,ユニタリ畳み込みがそのようなタスクの性能を損なうことを証明する。
本研究では, 物理的システムに必要となる自然の平滑化と平滑性保存のバランスをとるような緩和されたユニタリ畳み込みを提案する。
また、グラフからメッシュへのユニタリおよび緩和ユニタリ畳み込みを一般化する。
複雑なメッシュ上の熱・波動方程式や天気予報などのPDE実験では,メッシュ対応トランスフォーマーや同変ニューラルネットワークなど,いくつかの強力なベースラインよりも優れていることがわかった。
関連論文リスト
- An Operator-Consistent Graph Neural Network for Learning Diffusion Dynamics on Irregular Meshes [0.0]
拡散、損傷、治癒などの多物理相互作用は、しばしば不規則なメッシュ上で起こる。
我々は,物理インフォームド制約下でのPDE進化を近似する演算子一貫性グラフニューラルネットワーク(OCGNN-PINN)を開発した。
論文 参考訳(メタデータ) (2025-12-05T06:58:25Z) - A Dynamical Systems Perspective on the Analysis of Neural Networks [0.0]
動的システムを用いて機械学習アルゴリズムのいくつかの側面を分析する。
我々は、ディープニューラルネットワーク、(確率的な)勾配降下、および関連するトピックから動的ステートメントまで、さまざまな課題を再フォーマットする方法を実証する。
論文 参考訳(メタデータ) (2025-07-07T16:18:49Z) - Rapid training of Hamiltonian graph networks using random features [1.1199585259018459]
Hamiltonian Graph Networks(HGN)は、反復最適化をランダムな特徴ベースのパラメータ構成に置き換えることで、600倍高速にトレーニングすることができる。
N-body mass-spring や分子系を含む様々なシミュレーションでは,最大3次元で1万の粒子が異なる。
最小限の8ノードシステムでトレーニングしても、モデルがゼロショット方式で4096ノードのシステムに再トレーニングせずに一般化できることを明らかにする。
論文 参考訳(メタデータ) (2025-06-06T22:10:05Z) - Graph Neural Networks for Learning Equivariant Representations of Neural Networks [55.04145324152541]
本稿では,ニューラルネットワークをパラメータの計算グラフとして表現することを提案する。
我々のアプローチは、ニューラルネットワークグラフを多種多様なアーキテクチャでエンコードする単一モデルを可能にする。
本稿では,暗黙的ニューラル表現の分類や編集など,幅広いタスクにおける本手法の有効性を示す。
論文 参考訳(メタデータ) (2024-03-18T18:01:01Z) - Uncertainty Quantification of Graph Convolution Neural Network Models of
Evolving Processes [0.8749675983608172]
複雑なニューラルネットワークモデルに対するモンテカルロ法に代えて、スタイン変分推論が実現可能であることを示す。
我々の例では、スタイン変分干渉はハミルトン・モンテカルロと比較して時間を通して同様の不確実性プロファイルを与えた。
論文 参考訳(メタデータ) (2024-02-17T03:19:23Z) - E(n) Equivariant Graph Neural Networks [86.75170631724548]
本稿では,E(n)-Equivariant Graph Neural Networks (EGNNs) と呼ばれる回転,翻訳,反射,置換に等価なグラフニューラルネットワークを学習する新しいモデルを提案する。
既存の手法とは対照的に、私たちの仕事は計算的に高価な中間層における高階表現を必要としません。
論文 参考訳(メタデータ) (2021-02-19T10:25:33Z) - Combining Differentiable PDE Solvers and Graph Neural Networks for Fluid
Flow Prediction [79.81193813215872]
我々は,従来のグラフ畳み込みネットワークと,ネットワーク内部に組込み可能な流体力学シミュレータを組み合わせたハイブリッド(グラフ)ニューラルネットワークを開発した。
ニューラルネットワークのCFD予測の大幅な高速化により,新たな状況に十分対応できることが示される。
論文 参考訳(メタデータ) (2020-07-08T21:23:19Z) - Multipole Graph Neural Operator for Parametric Partial Differential
Equations [57.90284928158383]
物理系をシミュレーションするためのディープラーニングベースの手法を使用する際の大きな課題の1つは、物理ベースのデータの定式化である。
線形複雑度のみを用いて、あらゆる範囲の相互作用をキャプチャする、新しいマルチレベルグラフニューラルネットワークフレームワークを提案する。
実験により, 離散化不変解演算子をPDEに学習し, 線形時間で評価できることを確認した。
論文 参考訳(メタデータ) (2020-06-16T21:56:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。