Fugu-MT 論文翻訳(概要): Diversified Node Sampling based Hierarchical Transformer Pooling for Graph Representation Learning

論文の概要: Diversified Node Sampling based Hierarchical Transformer Pooling for Graph Representation Learning

arxiv url: http://arxiv.org/abs/2310.20250v1
Date: Tue, 31 Oct 2023 08:13:21 GMT
ステータス: 処理完了
システム内更新日: 2023-11-01 16:13:21.861240
Title: Diversified Node Sampling based Hierarchical Transformer Pooling for Graph Representation Learning
Title（参考訳）: 分散化ノードサンプリングに基づくグラフ表現学習のための階層型トランスフォーマープール
Authors: Gaichao Li, Jinsong Chen, John E. Hopcroft, Kun He
Abstract要約: ノードドロッププーリングは、学習可能なスコアリング関数を利用して、比較的低い価値スコアを持つノードをドロップすることを目的としている。既存のメソッドは、主にGNNをバックボーンとするため、長距離依存関係のキャプチャに苦労している。本稿では,GTPoolと呼ばれるグラフトランスフォーマープーリング手法を提案する。
参考スコア（独自算出の注目度）: 15.248591535696146
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Graph pooling methods have been widely used on downsampling graphs, achieving impressive results on multiple graph-level tasks like graph classification and graph generation. An important line called node dropping pooling aims at exploiting learnable scoring functions to drop nodes with comparatively lower significance scores. However, existing node dropping methods suffer from two limitations: (1) for each pooled node, these models struggle to capture long-range dependencies since they mainly take GNNs as the backbones; (2) pooling only the highest-scoring nodes tends to preserve similar nodes, thus discarding the affluent information of low-scoring nodes. To address these issues, we propose a Graph Transformer Pooling method termed GTPool, which introduces Transformer to node dropping pooling to efficiently capture long-range pairwise interactions and meanwhile sample nodes diversely. Specifically, we design a scoring module based on the self-attention mechanism that takes both global context and local context into consideration, measuring the importance of nodes more comprehensively. GTPool further utilizes a diversified sampling method named Roulette Wheel Sampling (RWS) that is able to flexibly preserve nodes across different scoring intervals instead of only higher scoring nodes. In this way, GTPool could effectively obtain long-range information and select more representative nodes. Extensive experiments on 11 benchmark datasets demonstrate the superiority of GTPool over existing popular graph pooling methods.
Abstract（参考訳）: グラフプーリング法は、グラフ分類やグラフ生成など、複数のグラフレベルのタスクにおいて印象的な結果が得られる。 node drop poolingと呼ばれる重要なラインは、学習可能なスコアリング機能を利用して、比較的重要度の低いノードをドロップすることを目指している。しかし,従来のノードドロップ方式では,(1)GNNを主にバックボーンとして扱うため,これらのモデルでは長距離依存の捕捉に苦慮し,(2)上位ノードのみのプールは類似ノードを保存する傾向にあるため,下位ノードの豊富な情報を破棄する。本稿では,gtpoolと呼ばれるグラフトランスフォーマープーリング手法を提案する。gtpoolは,ノードのドロッププーリングにトランスフォーマーを導入することで,長距離のペアワイズインタラクションを効率的にキャプチャし,一方,サンプルノードを多種多様なものにする。具体的には,グローバルコンテキストとローカルコンテキストの両方を考慮した自己認識機構に基づくスコアリングモジュールを設計し,ノードの重要性をより包括的に測定する。 GTPoolはさらに、RWS (Roulette Wheel Sampling) という、より高いスコアリングノードだけでなく、異なるスコアリング間隔のノードを柔軟に保存できる、多様化したサンプリング手法を使用している。このようにして、GTPoolは、効果的に長距離情報を取得し、より多くの代表ノードを選択することができる。 11のベンチマークデータセットに関する広範な実験は、既存の一般的なグラフプーリングメソッドよりもgtpoolの方が優れていることを示している。

関連論文リスト

ENADPool: The Edge-Node Attention-based Differentiable Pooling for Graph Neural Networks [19.889547537748395]
グラフニューラルネットワーク(GNN)は、グラフ分類のための強力なツールである。 GNNにとって重要な操作の1つは、ノード表現から効果的な埋め込みを学習できるダウンサンプリングまたはプールである。 We propose a new Hierarchical pooling operation、すなわち Edge-Node Attention-based Differentiable Pooling (ENADPool)を提案する。
論文参考訳（メタデータ） (2024-05-16T16:08:49Z)
Cluster-based Graph Collaborative Filtering [55.929052969825825]
グラフ畳み込みネットワーク(GCN)は、レコメンデーションシステムのためのユーザおよびアイテム表現の学習に成功している。既存のGCNベースのほとんどのメソッドは、高階グラフ畳み込みを実行しながら、ユーザの複数の関心事を見落としている。クラスタベースグラフ協調フィルタリング(ClusterGCF)と呼ばれる新しいGCNベースのレコメンデーションモデルを提案する。
論文参考訳（メタデータ） (2024-04-16T07:05:16Z)
Careful Selection and Thoughtful Discarding: Graph Explicit Pooling Utilizing Discarded Nodes [53.08068729187698]
本稿では,ノードと最終表現ベクトルの関係を明示的に活用してノードを選択するグラフ明示プール法を提案する。提案手法の有効性を検証するため,12種類の広く使用されているデータセットを対象とした総合的な実験を行った。
論文参考訳（メタデータ） (2023-11-21T14:44:51Z)
On Exploring Node-feature and Graph-structure Diversities for Node Drop Graph Pooling [86.65151066870739]
現在のノードドロッププーリング法は、ノードの特徴やグラフ構造の観点からグラフの多様性を無視し、結果としてグラフレベル以下の表現をもたらす。そこで本稿では,textiti.fltextbfIpscore と textbfDropscore の2つの操作を持つ textbfMulti スコア空間からなる MID を新たに提案する。具体的には、多次元スコア空間は、複数の基準を通してノードの重要さを描いており、フリップスコアは異種ノードの維持を奨励している。
論文参考訳（メタデータ） (2023-06-22T08:02:01Z)
Multi-Granularity Graph Pooling for Video-based Person Re-Identification [14.943835935921296]
ビデオサンプルの時間的特徴と空間的特徴を集約するためにグラフニューラルネットワーク(GNN)が導入された。 STGCNのような既存のグラフベースのモデルは、グラフ表現を得るためにノード機能でtextitmean/textitmaxプールを実行する。ビデオ検索のための多粒度グラフ表現を学習するためのグラフプーリングネットワーク(GPNet)を提案する。
論文参考訳（メタデータ） (2022-09-23T13:26:05Z)
Accurate Learning of Graph Representations with Graph Multiset Pooling [45.72542969364438]
本稿では,その構造的依存関係に応じてノード間の相互作用をキャプチャするグラフマルチセットトランス (GMT) を提案する。実験の結果,GMTはグラフ分類ベンチマークにおいて,最先端のグラフプーリング法を著しく上回っていることがわかった。
論文参考訳（メタデータ） (2021-02-23T07:45:58Z)
Second-Order Pooling for Graph Neural Networks [62.13156203025818]
グラフプーリングとして2次プールを提案するが、これは上記の課題を自然に解決する。グラフニューラルネットワークによる2次プールの直接利用は、実用的な問題を引き起こすことを示す。本稿では,2次プールに基づく2つの新しいグローバルグラフプーリング手法,すなわちバイリニアマッピングと2次プールを提案する。
論文参考訳（メタデータ） (2020-07-20T20:52:36Z)
Sequential Graph Convolutional Network for Active Learning [53.99104862192055]
逐次グラフ畳み込みネットワーク(GCN)を用いた新しいプールベースアクティブラーニングフレームワークを提案する。少数のランダムなサンプル画像がシードラベル付き例であるので、グラフのパラメータを学習してラベル付きノードと非ラベル付きノードを区別する。我々はGCNの特性を利用してラベル付けされたものと十分に異なる未ラベルの例を選択する。
論文参考訳（メタデータ） (2020-06-18T00:55:10Z)
Towards Deeper Graph Neural Networks with Differentiable Group Normalization [61.20639338417576]
グラフニューラルネットワーク(GNN)は、隣接するノードを集約することでノードの表現を学習する。オーバースムーシングは、レイヤーの数が増えるにつれてGNNのパフォーマンスが制限される重要な問題のひとつです。 2つのオーバースムースなメトリクスと新しいテクニック、すなわち微分可能群正規化(DGN)を導入する。
論文参考訳（メタデータ） (2020-06-12T07:18:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。