論文の概要: Dual Mamba for Node-Specific Representation Learning: Tackling Over-Smoothing with Selective State Space Modeling
- arxiv url: http://arxiv.org/abs/2511.06756v2
- Date: Wed, 12 Nov 2025 01:18:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-11-12 16:10:52.956089
- Title: Dual Mamba for Node-Specific Representation Learning: Tackling Over-Smoothing with Selective State Space Modeling
- Title(参考訳): Node-Specific Representation Learningのためのデュアルマンバ:選択状態空間モデリングによるオーバースムース処理
- Authors: Xin He, Yili Wang, Yiwei Dai, Xin Wang,
- Abstract要約: オーバー・スムーシングに対処するため,Dual Mamba-enhanced Graph Convolutional Network (DMbaGCN)を提案する。
DMbaGCNはローカル・ステート・エボリューション・マンバ(LSEMba)とグローバル・コンテキスト・アウェア・マンバ(GCAMba)の2つのモジュールから構成されている。
- 参考スコア(独自算出の注目度): 12.115520585626046
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Over-smoothing remains a fundamental challenge in deep Graph Neural Networks (GNNs), where repeated message passing causes node representations to become indistinguishable. While existing solutions, such as residual connections and skip layers, alleviate this issue to some extent, they fail to explicitly model how node representations evolve in a node-specific and progressive manner across layers. Moreover, these methods do not take global information into account, which is also crucial for mitigating the over-smoothing problem. To address the aforementioned issues, in this work, we propose a Dual Mamba-enhanced Graph Convolutional Network (DMbaGCN), which is a novel framework that integrates Mamba into GNNs to address over-smoothing from both local and global perspectives. DMbaGCN consists of two modules: the Local State-Evolution Mamba (LSEMba) for local neighborhood aggregation and utilizing Mamba's selective state space modeling to capture node-specific representation dynamics across layers, and the Global Context-Aware Mamba (GCAMba) that leverages Mamba's global attention capabilities to incorporate global context for each node. By combining these components, DMbaGCN enhances node discriminability in deep GNNs, thereby mitigating over-smoothing. Extensive experiments on multiple benchmarks demonstrate the effectiveness and efficiency of our method.
- Abstract(参考訳): オーバースムーシングは、繰り返しメッセージパッシングによってノード表現が区別不能になるディープグラフニューラルネットワーク(GNN)において、依然として根本的な課題である。
残りの接続やレイヤをスキップするといった既存のソリューションは、この問題をある程度軽減しますが、ノード表現が層全体にわたってノード固有でプログレッシブな方法でどのように進化するかを明確にモデル化することはできません。
さらに, これらの手法はグローバルな情報を考慮に入れておらず, 過度にスムースな問題を緩和するためにも重要である。
上記の問題に対処するため,本稿では,MambaをGNNに統合し,ローカル・グローバル両面からのオーバー・スムーシングに対処する新しいフレームワークであるDual Mamba-enhanced Graph Convolutional Network (DMbaGCN)を提案する。
DMbaGCNは2つのモジュールで構成されている: ローカル・ステート・エボリューション・マンバ(LSEMba) ローカル・アグリゲーションのためのローカル・ステート・エボリューション・マンバ(LSEMba) と、各ノードのグローバル・コンテクストを組み込むグローバル・コンテクスト・アウェア・マンバ(GCAMba) である。
これらのコンポーネントを組み合わせることで、DMbaGCNは深いGNNのノード識別性を向上し、オーバースムーシングを緩和する。
複数のベンチマークで大規模な実験を行い,本手法の有効性と有効性を示した。
関連論文リスト
- Prompt-Guided Dual-Path UNet with Mamba for Medical Image Segmentation [18.060052357308763]
医用画像分割のためのプロンプト誘導型CNN-MambaデュアルパスUNet(PGM-UNet)を提案する。
本稿では,元の入力データから動的視覚的プロンプトを適応的に抽出するプロンプト誘導残留マンバモジュールを提案する。
また、ローカル情報抽出モジュール、プロンプト誘導残留マンバモジュール、マルチフォーカス注意融合モジュールからなるローカル・グローバル情報融合ネットワークを設計する。
論文 参考訳(メタデータ) (2025-03-25T12:12:07Z) - Mamba-Based Graph Convolutional Networks: Tackling Over-smoothing with Selective State Space [33.677431350509224]
本稿では,Mambaパラダイムからインスピレーションを得た新しいグラフ畳み込みアーキテクチャであるMbaGCNを紹介する。
MbaGCNは、Message Aggregation Layer、Selective State Space Transition Layer、Node State Prediction Layerという3つの重要なコンポーネントで構成されるGNNの新しいバックボーンを提供する。
論文 参考訳(メタデータ) (2025-01-26T09:09:44Z) - LaMamba-Diff: Linear-Time High-Fidelity Diffusion Models Based on Local Attention and Mamba [54.85262314960038]
局所的意図的マンバブロックは、大域的コンテキストと局所的詳細の両方を線形複雑性でキャプチャする。
このモデルは, 256x256の解像度で, ImageNet上の様々なモデルスケールでDiTの性能を上回り, 優れたスケーラビリティを示す。
ImageNet 256x256 と 512x512 の最先端拡散モデルと比較すると,最大 62% GFLOP の削減など,我々の最大のモデルには顕著な利点がある。
論文 参考訳(メタデータ) (2024-08-05T16:39:39Z) - DGMamba: Domain Generalization via Generalized State Space Model [80.82253601531164]
ドメイン一般化(DG)は、様々な場面における分散シフト問題を解決することを目的としている。
Mambaは、新興状態空間モデル(SSM)として、より優れた線形複雑性と大域的受容場を持つ。
本稿では,DGMamba という新たな DG フレームワークを提案する。
論文 参考訳(メタデータ) (2024-04-11T14:35:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。