論文の概要: From Diffusion to Reaction-Diffusion: A Dynamical-Systems View of Oversmoothing in Hypergraph Neural Networks
- arxiv url: http://arxiv.org/abs/2607.15773v1
- Date: Fri, 17 Jul 2026 09:04:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-20 17:56:52.809925
- Title: From Diffusion to Reaction-Diffusion: A Dynamical-Systems View of Oversmoothing in Hypergraph Neural Networks
- Title(参考訳): 拡散から反応拡散へ:ハイパーグラフニューラルネットワークにおける過平化の力学系
- Abstract要約: 本研究は,力学系の観点からのハイパーグラフの過度な平滑化について検討する。
我々は,深度に耐性のあるハイパーグラフ学習のための反応拡散フレームワークを開発した。
- 参考スコア(独自算出の注目度): 3.3213704823862433
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Higher-order couplings enhance the expressive power of hypergraph neural networks (HGNNs), but they also intensify representation collapse in deep propagation due to strong multi-way feature mixing. This work investigates hypergraph oversmoothing from a dynamical-systems perspective and develops a reaction--diffusion framework for depth-resistant hypergraph learning. By defining hypergraph gradient and divergence operators, we interpret message passing as an incidence-level diffusion process. The analysis of pure diffusion shows that its continuous semiflow exponentially contracts the null-mode-free component of node representations and drives the Dirichlet energy to zero, revealing hypergraph oversmoothing as an intrinsic transverse-energy dissipation phenomenon. Motivated by this analysis, we propose Hypergraph Neural Reaction--Diffusion (HNRD), which introduces a reaction mechanism acting on the transverse component to compensate diffusion-induced dissipation and stabilize discriminative variations. We establish global well-posedness of the proposed dynamics and prove that the null-mode-free Dirichlet energy remains bounded away from zero. A forward-Euler discretization provides a practical HNRD layer with a stability condition for deep propagation. Experiments on benchmark and synthetic heterophilic hypergraphs demonstrate that HNRD consistently improves over representative hypergraph baselines. Depth, robustness, and efficiency analyses further show that HNRD preserves stable performance and nonzero Dirichlet energy under deep propagation and perturbations. These results provide a principled dynamical framework for designing deep hypergraph architectures that maintain higher-order expressiveness without representation collapse.
- Abstract(参考訳): 高次結合は、ハイパーグラフニューラルネットワーク(HGNN)の表現力を高めるが、強いマルチウェイ特徴混合による深部伝播の表現崩壊を増大させる。
本研究では, 動的システムの観点からのハイパーグラフの過平滑化について検討し, 耐深性ハイパーグラフ学習のための反応拡散フレームワークを開発した。
ハイパーグラフ勾配と発散演算子を定義することにより、メッセージパッシングをインシデントレベルの拡散過程として解釈する。
純粋な拡散の解析により、その連続半流はノード表現のヌルモード自由成分を指数関数的に収縮し、ディリクレエネルギーをゼロに駆動し、超グラフ上を本質的に超エネルギー散逸現象として表す。
本研究では, 拡散誘起散逸を補償し, 識別変動の安定化を図るために, 横成分に作用する反応機構を導入するハイパーグラフニューラル反応拡散(HNRD)を提案する。
提案された力学のグローバルな正当性を確立し、零モード自由なディリクレエネルギーがゼロから離れたままであることを証明する。
フォワード・オイラーの離散化は、深部伝播の安定性条件を持つ実用的なHNRD層を提供する。
ベンチマークおよび合成ヘテロ親和性ハイパーグラフの実験により、HNRDは代表ハイパーグラフベースラインよりも一貫して改善されていることが示された。
深さ, 剛性, 効率解析により, HNRDは深い伝播と摂動下での安定な性能と非ゼロディリクレエネルギーを保っていることが示された。
これらの結果は、表現の崩壊を伴わずに高次表現性を維持するディープハイパーグラフアーキテクチャを設計するための原理的な動的フレームワークを提供する。
関連論文リスト
- Revisiting Spectral Representations in Generative Diffusion Models [98.43552218868837]
拡散モデルは多様な生成タスクにおいて顕著な性能を示した。
近年の研究では,拡散ネットワークの隠れ状態に表現アライメントを付与することで,トレーニングの収束とサンプリング品質の向上が図られている。
摂動カーネルの共有視点による自己教師付きスペクトル表現学習と拡散生成モデルの関連性について検討する。
論文 参考訳(メタデータ) (2026-09-08T04:54:02Z) - Fluid-DiT: Graph-Free Diffusion Transformers for Fluid Flow Simulations Learning [50.053186229257555]
本稿では,グラフメッセージパッシングを注意に基づく認知に置き換えるグラフ自由拡散変換器を提案する。
変換器のグローバルな受容場を利用することで、Fluid-DiTは局所フロー構造と長距離相関の両方を自然に捉える。
サンプルの品質と分布精度の両方において、グラフベースの拡散ベースラインを一貫して上回る。
論文 参考訳(メタデータ) (2026-08-07T12:28:45Z) - Persistent Gaussian Perturbations Prevent Oversmoothing in Recurrent Graph Neural Networks [2.8427946758947304]
伝搬ステップ毎に独立なガウスノイズを注入するグラフニューラルネットワークについて検討する。
隠れ表現が幾何学的にエルゴード的なマルコフ連鎖を形成し、一意な不変確率測度を持つことを証明する。
以上の結果から,過密症と闘うメカニズムとして,持続的摂動が根本的に異なることが明らかとなった。
論文 参考訳(メタデータ) (2026-07-30T13:21:18Z) - HYVINT: Intensity-Driven Hypergraph Generation with Variational Representations [14.364205966885805]
ハイパーグラフは多進的相互作用をモデル化するための原則的なフレームワークを提供する。
既存のジェネレータは暗黙の潜伏空間や連続インシデントデコーダに依存していることが多い。
強度駆動型ハイパーグラフ生成フレームワークHYVINTを提案する。
論文 参考訳(メタデータ) (2026-05-16T06:38:33Z) - Detecting Deepfakes via Hamiltonian Dynamics [58.881686693914446]
本稿では,静的パターン認識から動的安定性解析へ移行するディープフェイク検出の新しい視点を提案する。
私たちのアプローチは、物理学にインスパイアされた先駆者によって動機付けられています。
Hamiltonian Action Anomaly Detection (HAAD) は、最先端のベースラインの評価に優れる。
論文 参考訳(メタデータ) (2026-05-06T01:55:38Z) - Hypergraph Neural Diffusion: A PDE-Inspired Framework for Hypergraph Message Passing [6.809465248544176]
ハイパーグラフ・ニューラル拡散(Hypergraph Neural Diffusion)は、ハイパーグラフ上のニューラルメッセージが通過する非線形拡散方程式を統一する新しいフレームワークである。
我々は、エネルギー散逸、離散的な最大原理による解の有界性、明示的で暗黙的な数値スキームによる安定性を含む厳密な理論的保証を導出する。
本研究は, ハイパーグラフ学習の安定性, 表現性, 解釈可能性を高める上で, PDEにインスパイアされた設計の力を強調した。
論文 参考訳(メタデータ) (2026-04-13T03:52:01Z) - Stochastic Gradient Descent in the Saddle-to-Saddle Regime of Deep Linear Networks [74.46751089984072]
深い線形ネットワークにおける勾配降下(SGD)ノイズの理解は不十分である。
本研究では,サドル・アンド・サドル体制におけるDLNの訓練におけるSGDの動態について検討した。
以上の結果から,SGDノイズは特徴学習の進行に関する情報を符号化するが,サドル・アンド・サドル・ダイナミクスを根本的に変えるものではないことが判明した。
論文 参考訳(メタデータ) (2026-04-07T18:43:08Z) - Tackling Over-smoothing on Hypergraphs: A Ricci Flow-guided Neural Diffusion Approach [11.470914132766636]
ハイパーグラフニューラルネットワーク(HGNN)は、複雑な高次関係をモデル化する強力な能力を示している。
既存のHGNNは、レイヤ数が増加し、ノード間のメッセージパッシングを効果的に制御できないため、オーバースムーシングに悩まされることが多い。
Ricci Flow-guided Hypergraph Neural Diffusionを提案する。
論文 参考訳(メタデータ) (2026-03-16T06:19:19Z) - PHASE-Net: Physics-Grounded Harmonic Attention System for Efficient Remote Photoplethysmography Measurement [63.007237197267834]
既存のディープラーニング手法は、主に生理学的モニタリングであり、理論的な堅牢性を欠いている。
本研究では,Navier-Stokes方程式のヘモダイナミックスから導かれる物理インフォームド r パラダイムを提案し,パルス信号が2次系に従うことを示す。
これは、時間的円錐ネットワーク(TCN)を使用する理論的正当性を提供する。
Phase-Netは高い効率で最先端のパフォーマンスを実現し、理論上は基礎的でデプロイ可能な r ソリューションを提供する。
論文 参考訳(メタデータ) (2025-09-29T14:36:45Z) - Transformers from Diffusion: A Unified Framework for Neural Message Passing [79.9193447649011]
メッセージパッシングニューラルネットワーク(MPNN)は、デファクトクラスのモデルソリューションとなっている。
本稿では,拡散の誘導バイアスとエネルギーの層的制約を統合するエネルギー制約拡散モデルを提案する。
これらの知見に基づいて、我々はTransformer (DIFFormer)と呼ばれる新しいタイプのメッセージパッシングモデルを考案した。
論文 参考訳(メタデータ) (2024-09-13T17:54:41Z) - Continuous Geometry-Aware Graph Diffusion via Hyperbolic Neural PDE [36.48610732998552]
我々は、HPDE積分のための非ユークリッド多様体に対して、電場と流れ、勾配、発散、および拡散率の理論的原理を導入する。
本稿では,ハイパーボリックグラフ拡散方程式 (HGDE) を提案する。
論文 参考訳(メタデータ) (2024-06-03T12:50:58Z) - Momentum Diminishes the Effect of Spectral Bias in Physics-Informed
Neural Networks [72.09574528342732]
物理インフォームドニューラルネットワーク(PINN)アルゴリズムは、偏微分方程式(PDE)を含む幅広い問題を解く上で有望な結果を示している。
彼らはしばしば、スペクトルバイアスと呼ばれる現象のために、ターゲット関数が高周波の特徴を含むとき、望ましい解に収束しない。
本研究は, 運動量による勾配降下下で進化するPINNのトレーニングダイナミクスを, NTK(Neural Tangent kernel)を用いて研究するものである。
論文 参考訳(メタデータ) (2022-06-29T19:03:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。