論文の概要: Revealing Decurve Flows for Generalized Graph Propagation

• arxiv url: http://arxiv.org/abs/2402.08480v1
• Date: Tue, 13 Feb 2024 14:13:17 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-14 15:20:56.381881
• Title: Revealing Decurve Flows for Generalized Graph Propagation
• Title（参考訳）: 一般化グラフ伝播のためのデカーブ流れの解明
• Authors: Chen Lin, Liheng Ma, Yiyang Chen, Wanli Ouyang, Michael M. Bronstein and Philip H.S. Torr
• Abstract要約: 本研究は,有向グラフと重み付きグラフを用いて,m文を一般化した伝播を定義することによって,従来のメッセージパッシング(中心からグラフ学習)の限界に対処する。 この分野ではじめて、データセットにおける学習された伝播パターンの予備的な探索を含む。
• 参考スコア（独自算出の注目度）: 108.80758541147418
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: This study addresses the limitations of the traditional analysis of message-passing, central to graph learning, by defining {\em \textbf{generalized propagation}} with directed and weighted graphs. The significance manifest in two ways. \textbf{Firstly}, we propose {\em Generalized Propagation Neural Networks} (\textbf{GPNNs}), a framework that unifies most propagation-based graph neural networks. By generating directed-weighted propagation graphs with adjacency function and connectivity function, GPNNs offer enhanced insights into attention mechanisms across various graph models. We delve into the trade-offs within the design space with empirical experiments and emphasize the crucial role of the adjacency function for model expressivity via theoretical analysis. \textbf{Secondly}, we propose the {\em Continuous Unified Ricci Curvature} (\textbf{CURC}), an extension of celebrated {\em Ollivier-Ricci Curvature} for directed and weighted graphs. Theoretically, we demonstrate that CURC possesses continuity, scale invariance, and a lower bound connection with the Dirichlet isoperimetric constant validating bottleneck analysis for GPNNs. We include a preliminary exploration of learned propagation patterns in datasets, a first in the field. We observe an intriguing ``{\em \textbf{decurve flow}}'' - a curvature reduction during training for models with learnable propagation, revealing the evolution of propagation over time and a deeper connection to over-smoothing and bottleneck trade-off.
• Abstract（参考訳）: 本研究は、有向グラフと重み付きグラフを用いて「em \textbf{generalized propagation}}」を定義することにより、グラフ学習の中心となる従来のメッセージパッシング分析の限界に対処する。 その意義は2つの点で示される。 本稿では,ほとんどの伝播に基づくグラフニューラルネットワークを統一するフレームワークである一般化伝搬ニューラルネットワーク (\textbf{GPNNs}) を提案する。 GPNNは、隣接関数と接続関数を持つ有向重み付き伝搬グラフを生成することにより、様々なグラフモデルにまたがる注意機構に関する洞察を深める。 実験実験により設計空間内のトレードオフを掘り下げ,理論解析を通じてモデル表現性に対する隣接関数の重要な役割を強調した。 ここでは、有向グラフおよび重み付きグラフに対する有名な {\em Ollivier-Ricci Curvature} の拡張である {\em Continuous Unified Ricci Curvature} (\textbf{CURC}) を提案する。 理論的に、我々はCURCが連続性、スケール不変性、およびGPNNに対するディリクレ等長不等度定値ボトルネック解析との低境界接続を有することを示した。 この分野初のデータセットにおける学習された伝播パターンの予備的な探索を含む。 我々は,学習可能な伝播モデルに対する訓練中の曲率の削減と,伝播の経時的変化と,過度なスムーシングとボトルネックトレードオフとの深い関係を明らかにする,興味深い ``{\em \textbf{decurve flow}}'' を観察した。

関連論文リスト

• Injecting Hamiltonian Architectural Bias into Deep Graph Networks for Long-Range Propagation [55.227976642410766]
  グラフ内の情報拡散のダイナミクスは、グラフ表現学習に大きな影響を及ぼす重要なオープン問題である。 そこで我々は(ポート-)Hamiltonian Deep Graph Networksを紹介した。 我々は,非散逸的長距離伝播と非保守的行動の両方を,単一の理論的・実践的な枠組みで調整する。
  論文  参考訳（メタデータ） (2024-05-27T13:36:50Z)
• Advective Diffusion Transformers for Topological Generalization in Graph Learning [69.2894350228753]
  グラフ拡散方程式は、様々なグラフトポロジーの存在下で、どのように外挿して一般化するかを示す。 本稿では,新たなグラフエンコーダのバックボーンであるAdvective Diffusion Transformer (ADiT)を提案する。
  論文  参考訳（メタデータ） (2023-10-10T08:40:47Z)
• MixupExplainer: Generalizing Explanations for Graph Neural Networks with Data Augmentation [6.307753856507624]
  グラフニューラルネットワーク(GNN)は、グラフ構造化データから学習する能力によって、注目を集めている。 GNN予測を理解するために、ポストホックなインスタンスレベルの説明法が提案されている。 我々は,既存手法における分布シフト問題の存在に光を当て,説明の質に影響を及ぼす。
  論文  参考訳（メタデータ） (2023-07-15T15:46:38Z)
• MentorGNN: Deriving Curriculum for Pre-Training GNNs [61.97574489259085]
  本稿では,グラフ間のGNNの事前学習プロセスの監視を目的とした,MentorGNNというエンドツーエンドモデルを提案する。 我々は、事前学習したGNNの一般化誤差に自然かつ解釈可能な上限を導出することにより、関係データ(グラフ)に対するドメイン適応の問題に新たな光を当てた。
  論文  参考訳（メタデータ） (2022-08-21T15:12:08Z)
• Handling Distribution Shifts on Graphs: An Invariance Perspective [78.31180235269035]
  我々は、グラフ上のOOD問題を定式化し、新しい不変学習手法である探索・拡張リスク最小化(EERM)を開発する。 EERMは、複数の仮想環境からのリスクの分散を最大化するために、敵対的に訓練された複数のコンテキストエクスプローラーを利用する。 理論的に有効なOOD解の保証を示すことによって,本手法の有効性を実証する。
  論文  参考訳（メタデータ） (2022-02-05T02:31:01Z)
• A Graph Data Augmentation Strategy with Entropy Preserving [11.886325179121226]
  本稿では,グラフ間の特徴情報を評価するための定量的指標として,新しいグラフエントロピー定義を提案する。 グラフエントロピーの保存を考慮し、摂動機構を用いてトレーニングデータを生成する効果的な方法を提案する。 提案手法はトレーニング過程におけるGCNの堅牢性と一般化能力を大幅に向上させる。
  論文  参考訳（メタデータ） (2021-07-13T12:58:32Z)
• Towards Deeper Graph Neural Networks [63.46470695525957]
  グラフ畳み込みは近傍の集約を行い、最も重要なグラフ操作の1つである。 いくつかの最近の研究で、この性能劣化は過度に滑らかな問題に起因している。 本研究では,大きな受容領域からの情報を適応的に組み込むディープ適応グラフニューラルネットワーク(DAGNN)を提案する。
  論文  参考訳（メタデータ） (2020-07-18T01:11:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。