論文の概要: DAM-GT: Dual Positional Encoding-Based Attention Masking Graph Transformer for Node Classification

• arxiv url: http://arxiv.org/abs/2505.17660v1
• Date: Fri, 23 May 2025 09:23:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-26 18:08:33.955959
• Title: DAM-GT: Dual Positional Encoding-Based Attention Masking Graph Transformer for Node Classification
• Title（参考訳）: DAM-GT:ノード分類のためのデュアル位置符号化型アテンションマスキンググラフ変換器
• Authors: Chenyang Li, Jinsong Chen, John E. Hopcroft, Kun He,
• Abstract要約: 本稿では,DAM-GT(Dual positional encoding-based Attention Masking graph Transformer)を提案する。 DAM-GTはノード分類タスクにおける最先端手法よりも一貫して優れていることを示す。
• 参考スコア（独自算出の注目度）: 16.82685813961535
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Neighborhood-aware tokenized graph Transformers have recently shown great potential for node classification tasks. Despite their effectiveness, our in-depth analysis of neighborhood tokens reveals two critical limitations in the existing paradigm. First, current neighborhood token generation methods fail to adequately capture attribute correlations within a neighborhood. Second, the conventional self-attention mechanism suffers from attention diversion when processing neighborhood tokens, where high-hop neighborhoods receive disproportionate focus, severely disrupting information interactions between the target node and its neighborhood tokens. To address these challenges, we propose DAM-GT, Dual positional encoding-based Attention Masking graph Transformer. DAM-GT introduces a novel dual positional encoding scheme that incorporates attribute-aware encoding via an attribute clustering strategy, effectively preserving node correlations in both topological and attribute spaces. In addition, DAM-GT formulates a new attention mechanism with a simple yet effective masking strategy to guide interactions between target nodes and their neighborhood tokens, overcoming the issue of attention diversion. Extensive experiments on various graphs with different homophily levels as well as different scales demonstrate that DAM-GT consistently outperforms state-of-the-art methods in node classification tasks.
• Abstract（参考訳）: 近隣のトークン化グラフ変換器は近年,ノード分類タスクに大きな可能性を示している。 その効果にもかかわらず、近隣トークンの詳細な分析により、既存のパラダイムにおける2つの重要な限界が明らかとなった。 第一に、現在の近所のトークン生成手法は、近隣の属性相関を適切に捉えることができない。 第二に、従来の自己注意機構は、ハイホップ地区が不均等な焦点を受け、ターゲットノードと近隣トークン間の情報相互作用を著しく破壊する近隣トークンを処理する際に、注意の転換に悩まされる。 これらの課題に対処するため、DAM-GT(Dual positional encoding-based Attention Masking graph Transformer)を提案する。 DAM-GTは、属性クラスタリング戦略を介して属性認識符号化を組み込んだ新しい二重位置符号化方式を導入し、トポロジと属性空間のノード相関を効果的に保存する。 さらに、DAM-GTは、ターゲットノードと近隣トークン間のインタラクションを誘導するシンプルな効果的なマスキング戦略を備えた新しいアテンションメカニズムを定式化し、アテンションディバージョンを克服する。 DAM-GTがノード分類タスクにおける最先端の手法を一貫して上回ることを示す。

関連論文リスト

• Multi-Granular Attention based Heterogeneous Hypergraph Neural Network [5.580244361093485]
  不均一グラフニューラルネットワーク(HeteGNN)はノード表現を学習する強力な能力を示している。 本稿では,マルチグラニュラーアテンションに基づく表現学習のためのヘテロジニアスハイパーグラフニューラルネットワークであるMGA-HHNを提案する。
  論文  参考訳（メタデータ） (2025-05-07T11:42:00Z)
• Higher Order Graph Attention Probabilistic Walk Networks [3.481985817302898]
  メッセージパッシングニューラルネットワークは、グラフ構造に埋め込まれた潜時関係を利用する。 既存の方法は、1ドルのホップ地区内のローカル情報に依存している。 本稿では,特徴ベクトルの多様性に基づいた可変長経路に重みを割り当てる高次アテンション(HoGA)モジュールを提案する。 HoGAは、高次の関係を、いかなるシングルホップアテンション機構にも適用可能な、堅牢な自己意識の形式として表現している。
  論文  参考訳（メタデータ） (2024-11-18T20:46:02Z)
• Degree-Conscious Spiking Graph for Cross-Domain Adaptation [9.785526401884155]
  スパイキンググラフネットワーク(SGN)は、脳にインスパイアされた神経力学をエミュレートすることによって、グラフ分類において大きな可能性を証明している。 本稿ではまず,SGNにおけるドメイン適応問題を提案するとともに,クロスドメイン適応のためのDegree-Consicious Spiking Graphという新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-10-09T13:45:54Z)
• Domain-adaptive Message Passing Graph Neural Network [67.35534058138387]
  クロスネットワークノード分類(CNNC)は、豊富なラベルを持つソースネットワークから知識を転送することで、ラベル不足のターゲットネットワーク内のノードを分類することを目的としている。 本稿では,グラフニューラルネットワーク(GNN)と条件付き対向ドメイン適応を統合したドメイン適応型メッセージパッシンググラフニューラルネットワーク(DM-GNN)を提案する。
  論文  参考訳（メタデータ） (2023-08-31T05:26:08Z)
• BOURNE: Bootstrapped Self-supervised Learning Framework for Unified Graph Anomaly Detection [50.26074811655596]
  自己指導型自己学習(BOURNE)に基づく新しい統合グラフ異常検出フレームワークを提案する。 ノードとエッジ間のコンテキスト埋め込みを交換することで、ノードとエッジの異常を相互に検出できる。 BOURNEは、負のサンプリングを必要としないため、大きなグラフを扱う際の効率を高めることができる。
  論文  参考訳（メタデータ） (2023-07-28T00:44:57Z)
• Graph Transformer GANs for Graph-Constrained House Generation [223.739067413952]
  本稿では,グラフノード関係を効果的に学習するために,GTGAN(Graph Transformer Generative Adversarial Network)を提案する。 GTGANは、グラフ制約のある住宅生成タスクにおいて、エンドツーエンドで効率的なグラフノード関係を学習する。
  論文  参考訳（メタデータ） (2023-03-14T20:35:45Z)
• Propagation with Adaptive Mask then Training for Node Classification on Attributed Networks [10.732648536892377]
  属性ネットワーク上のノード分類は、ネットワーク分析に不可欠な半教師付きタスクである。 本稿では,適応マスクを用いたイットシェープ伝搬法(PAMT)を提案する。 キーとなる考え方は、属性類似性マスクを構造対応の伝搬プロセスに統合することである。 このようにして、PAMTは伝搬中の隣接ノードの属性の相関を保ち、構造ノイズの影響を効果的に低減できる。
  論文  参考訳（メタデータ） (2022-06-21T06:56:58Z)
• Mixed Graph Contrastive Network for Semi-Supervised Node Classification [63.924129159538076]
  我々はMixed Graph Contrastive Network(MGCN)と呼ばれる新しいグラフコントラスト学習手法を提案する。 本研究では,非摂動増強戦略と相関還元機構により,潜伏埋め込みの識別能力を向上する。 これら2つの設定を組み合わせることで、識別表現学習のために、豊富なノードと稀に価値あるラベル付きノードの両方から、豊富な監視情報を抽出する。
  論文  参考訳（メタデータ） (2022-06-06T14:26:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。