論文の概要: Invariant Graph Transformer

• arxiv url: http://arxiv.org/abs/2312.07859v1
• Date: Wed, 13 Dec 2023 02:56:26 GMT
• ステータス: 処理完了
• システム内更新日: 2023-12-14 16:44:17.431041
• Title: Invariant Graph Transformer
• Title（参考訳）: 不変グラフ変換器
• Authors: Zhe Xu (1), Menghai Pan (2), Yuzhong Chen (2), Huiyuan Chen (2), Yuchen Yan (1), Mahashweta Das (2), Hanghang Tong (1) ((1) University of Illinois Urbana-Champaign, (2) Visa Research)
• Abstract要約: グラフ機械学習の文脈では、グラフ合理化はモデルの性能を高めることができる。 抽出された有理部分グラフの識別力を確保するために「干渉」と呼ばれる重要な手法が適用される。 本稿では,グラフデータに対する適切な介入戦略を提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Rationale discovery is defined as finding a subset of the input data that maximally supports the prediction of downstream tasks. In graph machine learning context, graph rationale is defined to locate the critical subgraph in the given graph topology, which fundamentally determines the prediction results. In contrast to the rationale subgraph, the remaining subgraph is named the environment subgraph. Graph rationalization can enhance the model performance as the mapping between the graph rationale and prediction label is viewed as invariant, by assumption. To ensure the discriminative power of the extracted rationale subgraphs, a key technique named "intervention" is applied. The core idea of intervention is that given any changing environment subgraphs, the semantics from the rationale subgraph is invariant, which guarantees the correct prediction result. However, most, if not all, of the existing rationalization works on graph data develop their intervention strategies on the graph level, which is coarse-grained. In this paper, we propose well-tailored intervention strategies on graph data. Our idea is driven by the development of Transformer models, whose self-attention module provides rich interactions between input nodes. Based on the self-attention module, our proposed invariant graph Transformer (IGT) can achieve fine-grained, more specifically, node-level and virtual node-level intervention. Our comprehensive experiments involve 7 real-world datasets, and the proposed IGT shows significant performance advantages compared to 13 baseline methods.
• Abstract（参考訳）: Rationale discovery は、下流タスクの予測を最大限にサポートする入力データのサブセットを見つけるものとして定義される。 グラフ機械学習の文脈では、グラフ論理は与えられたグラフトポロジーの臨界部分グラフを見つけるために定義され、予測結果を根本的に決定する。 有理部分グラフとは対照的に、残りの部分グラフは環境部分グラフと呼ばれる。 グラフの合理化は、グラフの合理性と予測ラベルのマッピングが不変であると見なされるので、モデルの性能を高めることができる。 抽出された合理部分グラフの判別能力を確保するために、"intervention"というキー技術を適用する。 介入の中核となる考え方は、変化する環境部分グラフが与えられた場合、合理的部分グラフからの意味論は不変であり、正しい予測結果を保証することである。 しかし、すべてではないにしても、既存の合理化はグラフデータに作用し、グラフレベルでの介入戦略を発展させる。 本稿では,グラフデータに対する適切な介入戦略を提案する。 我々のアイデアはTransformerモデルの開発によって推進され、自己アテンションモジュールは入力ノード間のリッチな相互作用を提供する。 自己アテンションモジュールをベースとして,提案した不変グラフ変換器(IGT)は,ノードレベルおよび仮想ノードレベルの微細な介入を実現する。 提案したIGTは,13のベースライン手法と比較して,大きな性能上の優位性を示す。

関連論文リスト

• Graph Counterfactual Explainable AI via Latent Space Traversal [4.337339380445765]
  反実的な説明は、分配の代替入力の「アレスト」を見つけることによって予測を説明することを目的としている。 本稿では, 識別可能なブラックボックスグラフ分類器に対して, 反実的説明を生成する手法を提案する。 我々は3つのグラフデータセットに対するアプローチを実証的に検証し、我々のモデルはベースラインよりも一貫してハイパフォーマンスで堅牢であることを示した。
  論文  参考訳（メタデータ） (2025-01-15T15:04:10Z)
• Bures-Wasserstein Means of Graphs [60.42414991820453]
  本研究では,スムーズなグラフ信号分布の空間への埋め込みを通じて,グラフ平均を定義する新しいフレームワークを提案する。 この埋め込み空間において平均を求めることにより、構造情報を保存する平均グラフを復元することができる。 我々は,新しいグラフの意味の存在と特異性を確立し,それを計算するための反復アルゴリズムを提供する。
  論文  参考訳（メタデータ） (2023-05-31T11:04:53Z)
• Principle of Relevant Information for Graph Sparsification [27.54740921723433]
  グラフスペーシフィケーションは、グラフの構造的特性を維持しながら、グラフのエッジ数を減らすことを目的としている。 我々は、関係情報原理(PRI)から着想を得て、グラフスカラー化の汎用的で効果的な情報理論の定式化を提案する。 本稿では,グラフスペーシフィケーション,グラフ正規化マルチタスク学習,医用画像由来の脳ネットワーク分類の3つの応用例を示す。
  論文  参考訳（メタデータ） (2022-05-31T21:00:42Z)
• Graph-wise Common Latent Factor Extraction for Unsupervised Graph Representation Learning [40.70562886682939]
  我々は、教師なしグラフ表現学習のための新しい原則を提案する:グラフワイド共通潜在因子抽出(GCFX) GCFXは入力グラフから一般的な潜伏因子を明示的に抽出し、現在の最先端のタスクで改善された結果を達成する。 広範囲な実験と分析により,GCFXは個々のノードや周辺地域の局所的な変動による障害を軽減するため,グラフレベルのタスクに有用であることを示す。
  論文  参考訳（メタデータ） (2021-12-16T12:22:49Z)
• A Robust and Generalized Framework for Adversarial Graph Embedding [73.37228022428663]
  本稿では,AGE という逆グラフ埋め込みのための頑健なフレームワークを提案する。 AGEは、暗黙の分布から強化された負のサンプルとして偽の隣接ノードを生成する。 本フレームワークでは,3種類のグラフデータを扱う3つのモデルを提案する。
  論文  参考訳（メタデータ） (2021-05-22T07:05:48Z)
• Line Graph Neural Networks for Link Prediction [71.00689542259052]
  実世界の多くのアプリケーションにおいて古典的なグラフ解析問題であるグラフリンク予測タスクについて検討する。 このフォーマリズムでは、リンク予測問題をグラフ分類タスクに変換する。 本稿では,線グラフをグラフ理論に用いて,根本的に異なる新しい経路を求めることを提案する。 特に、線グラフの各ノードは、元のグラフのユニークなエッジに対応するため、元のグラフのリンク予測問題は、グラフ分類タスクではなく、対応する線グラフのノード分類問題として等価に解決できる。
  論文  参考訳（メタデータ） (2020-10-20T05:54:31Z)
• Graph Pooling with Node Proximity for Hierarchical Representation Learning [80.62181998314547]
  本稿では,ノード近接を利用したグラフプーリング手法を提案し,そのマルチホップトポロジを用いたグラフデータの階層的表現学習を改善する。 その結果,提案したグラフプーリング戦略は,公開グラフ分類ベンチマークデータセットの集合において,最先端のパフォーマンスを達成できることが示唆された。
  論文  参考訳（メタデータ） (2020-06-19T13:09:44Z)
• Block-Approximated Exponential Random Graphs [77.4792558024487]
  指数乱グラフ(ERG)の分野における重要な課題は、大きなグラフ上の非自明なERGの適合である。 本稿では,非自明なERGに対する近似フレームワークを提案する。 我々の手法は、数百万のノードからなるスパースグラフにスケーラブルである。
  論文  参考訳（メタデータ） (2020-02-14T11:42:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。