論文の概要: Differential Encoding for Improved Representation Learning over Graphs
- arxiv url: http://arxiv.org/abs/2407.02758v1
- Date: Wed, 3 Jul 2024 02:23:33 GMT
- ステータス: 処理完了
- システム内更新日: 2024-07-04 15:54:34.713295
- Title: Differential Encoding for Improved Representation Learning over Graphs
- Title（参考訳）: グラフによる表現学習の改善のための微分符号化
- Authors: Haimin Zhang, Jiahao Xia, Min Xu,
- Abstract要約: メッセージパッシングパラダイムとグローバルアテンションメカニズムは、基本的にノードの埋め込みを生成する。
支配的な情報がノード自身からなのか、あるいはノードの隣人からなのかは不明だ。
本稿では,失った情報の問題に対処する差分符号化手法を提案する。
- 参考スコア（独自算出の注目度）: 15.791455338513815
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Combining the message-passing paradigm with the global attention mechanism has emerged as an effective framework for learning over graphs. The message-passing paradigm and the global attention mechanism fundamentally generate node embeddings based on information aggregated from a node's local neighborhood or from the whole graph. The most basic and commonly used aggregation approach is to take the sum of information from a node's local neighbourhood or from the whole graph. However, it is unknown if the dominant information is from a node itself or from the node's neighbours (or the rest of the graph nodes). Therefore, there exists information lost at each layer of embedding generation, and this information lost could be accumulated and become more serious when more layers are used in the model. In this paper, we present a differential encoding method to address the issue of information lost. The idea of our method is to encode the differential representation between the information from a node's neighbours (or the rest of the graph nodes) and that from the node itself. The obtained differential encoding is then combined with the original aggregated local or global representation to generate the updated node embedding. By integrating differential encodings, the representational ability of generated node embeddings is improved. The differential encoding method is empirically evaluated on different graph tasks on seven benchmark datasets. The results show that it is a general method that improves the message-passing update and the global attention update, advancing the state-of-the-art performance for graph representation learning on these datasets.
- Abstract（参考訳）: メッセージパッシングパラダイムとグローバルアテンションメカニズムを組み合わせることは、グラフを学習するための効果的なフレームワークとして現れています。
メッセージパッシングパラダイムとグローバルアテンションメカニズムは、ノードの局所的近傍やグラフ全体から集約された情報に基づいて、ノード埋め込みを基本的に生成する。
最も基本的で一般的に使用される集約アプローチは、ノードの局所的な近傍やグラフ全体からの情報の総和を取ることである。
しかし、支配的な情報がノード自身からなのか、あるいはノードの隣人(あるいはグラフノードの残りの部分)からなのかは不明である。
したがって、埋め込み生成の各層に失われる情報が存在し、この失われた情報は蓄積され、モデルでより多くの層が使用されるとより深刻になる可能性がある。
本稿では,失った情報の問題に対処する差分符号化手法を提案する。
提案手法の考え方は,ノードの隣人(あるいはグラフノードの他の部分)の情報とノード自体の情報との差分表現を符号化することである。
得られた差分符号化は、元の集約されたローカルまたはグローバル表現と組み合わせて、更新されたノード埋め込みを生成する。
差分符号化を統合することにより、生成されたノード埋め込みの表現性が向上する。
差分符号化法は、7つのベンチマークデータセット上で異なるグラフタスクに対して実験的に評価する。
その結果、これらのデータセット上でのグラフ表現学習の最先端性能を向上させるため、メッセージパッシング更新とグローバルアテンション更新を改善した汎用手法であることが示唆された。
関連論文リスト
- Federated Graph Semantic and Structural Learning [54.97668931176513]
本稿では,ノードレベルのセマンティクスとグラフレベルの構造の両方によって局所的なクライアントの歪みがもたらされることを示す。
構造的グラフニューラルネットワークは、固有の隣接関係のため、隣人に類似性を持っていると仮定する。
我々は、隣接関係を類似度分布に変換し、グローバルモデルを利用して関係知識を局所モデルに蒸留する。
論文 参考訳（メタデータ） (2024-06-27T07:08:28Z) - Neighbour-level Message Interaction Encoding for Improved Representation Learning on Graphs [13.83680253264399]
本稿では,グラフ表現学習を改善するための近隣レベルのメッセージインタラクション情報符号化手法を提案する。
提案手法は,メッセージパスグラフ畳み込みネットワークに統合可能な汎用手法である。
論文 参考訳（メタデータ） (2024-04-15T14:07:33Z) - Graph Transformer GANs with Graph Masked Modeling for Architectural
Layout Generation [153.92387500677023]
本稿では,グラフノード関係を効果的に学習するために,GTGAN(Graph Transformer Generative Adversarial Network)を提案する。
提案したグラフ変換器エンコーダは、局所的およびグローバルな相互作用をモデル化するために、Transformer内のグラフ畳み込みと自己アテンションを組み合わせる。
また,グラフ表現学習のための自己指導型事前学習手法を提案する。
論文 参考訳（メタデータ） (2024-01-15T14:36:38Z) - Deep Manifold Graph Auto-Encoder for Attributed Graph Embedding [51.75091298017941]
本稿では,属性付きグラフデータに対する新しいDeep Manifold (Variational) Graph Auto-Encoder (DMVGAE/DMGAE)を提案する。
提案手法は,最先端のベースラインアルゴリズムを,一般的なデータセット間でのダウンストリームタスクの差を大きく越える。
論文 参考訳（メタデータ） (2024-01-12T17:57:07Z) - Local Structure-aware Graph Contrastive Representation Learning [12.554113138406688]
複数のビューからノードの構造情報をモデル化するための局所構造対応グラフ比較表現学習法(LS-GCL)を提案する。
ローカルビューでは、各ターゲットノードのセマンティックサブグラフが共有GNNエンコーダに入力され、サブグラフレベルに埋め込まれたターゲットノードを取得する。
グローバルな視点では、元のグラフはノードの必要不可欠な意味情報を保存しているので、共有GNNエンコーダを利用して、グローバルなグラフレベルでターゲットノードの埋め込みを学習する。
論文 参考訳（メタデータ） (2023-08-07T03:23:46Z) - StarGraph: A Coarse-to-Fine Representation Method for Large-Scale
Knowledge Graph [0.6445605125467573]
本稿では,近隣情報を大規模知識グラフに活用するための新しい手法であるStarGraphを提案する。
提案手法は,ogbl-wikikg2データセットの有効性を検証する。
論文 参考訳（メタデータ） (2022-05-27T19:32:45Z) - LiftPool: Lifting-based Graph Pooling for Hierarchical Graph
Representation Learning [53.176603566951016]
階層グラフ表現を改善するために,リフトプール (LiftPool) と呼ばれるリフトによる3段階法を提案する。
各ノードを削除するために、そのローカル情報は、隣接する保存ノードから集約されたグローバル情報を減らして得られる。
ベンチマークグラフデータセットの評価では、LiftPoolはグラフ分類のタスクにおいて最先端のグラフプーリング手法を大幅に上回っている。
論文 参考訳（メタデータ） (2022-04-27T12:38:02Z) - Node-wise Localization of Graph Neural Networks [52.04194209002702]
グラフニューラルネットワーク(GNN)は、グラフ上の表現学習モデルの強力なファミリーとして出現する。
グラフのグローバルな側面とローカルな側面の両方を考慮し,GNNのノードワイドなローカライゼーションを提案する。
我々は,4つのベンチマークグラフに対して広範な実験を行い,最先端のGNNを超える有望な性能を継続的に獲得する。
論文 参考訳（メタデータ） (2021-10-27T10:02:03Z) - Locality Preserving Dense Graph Convolutional Networks with Graph
Context-Aware Node Representations [19.623379678611744]
グラフ畳み込みネットワーク(GCN)はグラフデータの表現学習に広く利用されている。
多くのグラフ分類アプリケーションにおいて、GCNベースのアプローチは従来の手法よりも優れている。
グラフコンテキスト対応ノード表現を用いた局所性保存型高密度GCNを提案する。
論文 参考訳（メタデータ） (2020-10-12T02:12:27Z) - Graph InfoClust: Leveraging cluster-level node information for
unsupervised graph representation learning [12.592903558338444]
本稿では,グラフ InfoClust というグラフ表現学習手法を提案する。
同社はさらに、クラスタレベルの情報コンテンツをキャプチャしようとしている。
この最適化により、ノード表現はよりリッチな情報とノイズ相互作用をキャプチャし、それによって品質が向上する。
論文 参考訳（メタデータ） (2020-09-15T09:33:20Z) - Modeling Global and Local Node Contexts for Text Generation from
Knowledge Graphs [63.12058935995516]
最近のグラフ・トゥ・テキストモデルでは、グローバル・アグリゲーションまたはローカル・アグリゲーションを使用してグラフベースのデータからテキストを生成する。
本稿では,グローバルなノードコンテキストとローカルなノードコンテキストを組み合わせた入力グラフを符号化するニューラルモデルを提案する。
われわれのアプローチは、2つのグラフからテキストへのデータセットに大きな改善をもたらす。
論文 参考訳（メタデータ） (2020-01-29T18:24:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。