論文の概要: Causally-guided Regularization of Graph Attention Improves Generalizability

• arxiv url: http://arxiv.org/abs/2210.10946v1
• Date: Thu, 20 Oct 2022 01:29:10 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-21 15:26:32.345975
• Title: Causally-guided Regularization of Graph Attention Improves Generalizability
• Title（参考訳）: グラフ注意の因果誘導正規化による一般化性の向上
• Authors: Alexander P. Wu, Thomas Markovich, Bonnie Berger, Nils Hammerla, Rohit Singh
• Abstract要約: 本稿では,グラフアテンションネットワークのための汎用正規化フレームワークであるCARを紹介する。 メソッド名は、グラフ接続に対するアクティブ介入の因果効果とアテンションメカニズムを一致させる。 ソーシャル・メディア・ネットワーク規模のグラフでは、CAR誘導グラフ再構成アプローチにより、グラフの畳み込み手法のスケーラビリティとグラフの注意力の向上を両立させることができる。
• 参考スコア（独自算出の注目度）: 69.09877209676266
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: However, the inferred attentions are vulnerable to spurious correlations and connectivity in the training data, hampering the generalizability of the model. We introduce CAR, a general-purpose regularization framework for graph attention networks. Embodying a causal inference approach, \methodname aligns the attention mechanism with the causal effects of active interventions on graph connectivity in a scalable manner. CAR is compatible with a variety of graph attention architectures, and we show that it systematically improves generalizability on various node classification tasks. Our ablation studies indicate that \methodname hones in on the aspects of graph structure most pertinent to the prediction (e.g., homophily), and does so more effectively than alternative approaches. Finally, we also show that CAR enhances interpretability of attention weights by accentuating node-neighbor relations that point to causal hypotheses. For social media network-sized graphs, a CAR-guided graph rewiring approach could allow us to combine the scalability of graph convolutional methods with the higher performance of graph attention.
• Abstract（参考訳）: しかし、推定された注意は、トレーニングデータの急激な相関や接続に弱いため、モデルの一般化を妨げている。 グラフアテンションネットワークのための汎用正規化フレームワークであるcarを紹介する。 因果推論アプローチを具現化し、グラフ接続性に対するアクティブな介入による因果効果と、スケーラブルな方法でアテンションメカニズムを整合させる。 CARは様々なグラフアテンションアーキテクチャと互換性があり、様々なノード分類タスクの一般化性を体系的に改善することを示す。 我々のアブレーション研究によれば、\methodname は予測(例えばホモフィア)に最も関連するグラフ構造の側面を基礎としており、他のアプローチよりも効果的である。 最後に,carは,因果仮説を示すノード間関係を強調することで注意重みの解釈性を高めることを示した。 ソーシャルメディアのネットワークサイズグラフでは,カーガイドグラフリワイリングアプローチによって,グラフ畳み込み手法のスケーラビリティとグラフ注目度の向上を両立させることができる。

関連論文リスト

• Hypergraph-enhanced Dual Semi-supervised Graph Classification [14.339207883093204]
  半教師付きグラフ分類のためのハイパーグラフ拡張DuALフレームワークHEALを提案する。 ノード間の高次関係をよりよく探求するために,複雑なノード依存を適応的に学習するハイパーグラフ構造を設計する。 学習したハイパーグラフに基づいて,ハイパーエッジ間の相互作用を捉える線グラフを導入する。
  論文  参考訳（メタデータ） (2024-05-08T02:44:13Z)
• Revealing Decurve Flows for Generalized Graph Propagation [108.80758541147418]
  本研究は,有向グラフと重み付きグラフを用いて,m文を一般化した伝播を定義することによって,従来のメッセージパッシング(中心からグラフ学習)の限界に対処する。 この分野ではじめて、データセットにおける学習された伝播パターンの予備的な探索を含む。
  論文  参考訳（メタデータ） (2024-02-13T14:13:17Z)
• Semantic Interpretation and Validation of Graph Attention-based Explanations for GNN Models [9.260186030255081]
  本稿では,グラフニューラルネットワーク(GNN)に基づくモデルの説明可能性を高めるために,意味的注意力を用いた手法を提案する。 本研究は,注意分布のばらつきを意味的にソートした特徴集合と関連づけることで,既存の注意グラフ説明可能性手法を拡張した。 提案手法をライダーポイントクラウド推定モデルに適用し,性能向上に寄与する主要なセマンティッククラスを同定する。
  論文  参考訳（メタデータ） (2023-08-08T12:34:32Z)
• Towards Relation-centered Pooling and Convolution for Heterogeneous Graph Learning Networks [11.421162988355146]
  不均一グラフニューラルネットワークは,グラフ表現学習において大きな可能性を秘めている。 我々は,PC-HGNという異種グラフ学習ネットワークのための関係中心のPooling and Convolutionを設計し,関係固有サンプリングと相互関係の畳み込みを実現する。 実世界の3つのデータセットにおける最先端グラフ学習モデルとの比較により,提案モデルの性能評価を行った。
  論文  参考訳（メタデータ） (2022-10-31T08:43:32Z)
• How to Find Your Friendly Neighborhood: Graph Attention Design with Self-Supervision [16.86132592140062]
  ノイズグラフに対する自己教師付きグラフアテンションネットワーク(SuperGAT)を提案する。 我々は、エッジを予測するために、自己教師型タスクと互換性のある2つの注意形式を利用する。 エッジを符号化することで、SuperGATは、リンクされた隣人を識別する際に、より表現力のある注意を学習する。
  論文  参考訳（メタデータ） (2022-04-11T05:45:09Z)
• GraphCoCo: Graph Complementary Contrastive Learning [65.89743197355722]
  グラフコントラスト学習(GCL)は、手作業によるアノテーションの監督なしに、グラフ表現学習(GRL)において有望な性能を示した。 本稿では,この課題に対処するため,グラフココというグラフ補完型コントラスト学習手法を提案する。
  論文  参考訳（メタデータ） (2022-03-24T02:58:36Z)
• Learning Robust Representation through Graph Adversarial Contrastive Learning [6.332560610460623]
  既存の研究では、グラフニューラルネットワーク(GNN)によって生成されたノード表現が、敵の攻撃に対して脆弱であることが示されている。 本稿では,グラフ自己教師型学習に対数拡張を導入することにより,新しいグラフ適応型コントラスト学習フレームワーク(GraphACL)を提案する。
  論文  参考訳（メタデータ） (2022-01-31T07:07:51Z)
• Joint Graph Learning and Matching for Semantic Feature Correspondence [69.71998282148762]
  本稿では,グラフマッチングを向上するための信頼度の高いグラフ構造を探索するために,GLAMという共用電子グラフ学習とマッチングネットワークを提案する。 提案手法は,3つの人気ビジュアルマッチングベンチマーク (Pascal VOC, Willow Object, SPair-71k) で評価される。 すべてのベンチマークにおいて、従来の最先端のグラフマッチング手法よりも大きなマージンを達成している。
  論文  参考訳（メタデータ） (2021-09-01T08:24:02Z)
• Diversified Multiscale Graph Learning with Graph Self-Correction [55.43696999424127]
  2つのコア成分を組み込んだ多次元グラフ学習モデルを提案します。 情報埋め込みグラフを生成するグラフ自己補正(GSC)機構、および入力グラフの包括的な特性評価を達成するために多様性ブースト正規化(DBR)。 一般的なグラフ分類ベンチマークの実験は、提案されたGSCメカニズムが最先端のグラフプーリング方法よりも大幅に改善されることを示しています。
  論文  参考訳（メタデータ） (2021-03-17T16:22:24Z)
• Tensor Graph Convolutional Networks for Multi-relational and Robust Learning [74.05478502080658]
  本稿では,テンソルで表されるグラフの集合に関連するデータから,スケーラブルな半教師付き学習(SSL)を実現するためのテンソルグラフ畳み込みネットワーク(TGCN)を提案する。 提案アーキテクチャは、標準的なGCNと比較して大幅に性能が向上し、最先端の敵攻撃に対処し、タンパク質間相互作用ネットワーク上でのSSL性能が著しく向上する。
  論文  参考訳（メタデータ） (2020-03-15T02:33:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。