論文の概要: Causal-Aware Graph Neural Architecture Search under Distribution Shifts
- arxiv url: http://arxiv.org/abs/2405.16489v1
- Date: Sun, 26 May 2024 08:55:22 GMT
- ステータス: 処理完了
- システム内更新日: 2024-05-28 20:58:51.623832
- Title: Causal-Aware Graph Neural Architecture Search under Distribution Shifts
- Title(参考訳): 分布シフト下における因果認識型グラフニューラルアーキテクチャ探索
- Authors: Peiwen Li, Xin Wang, Zeyang Zhang, Yijian Qin, Ziwei Zhang, Jialong Wang, Yang Li, Wenwu Zhu,
- Abstract要約: Causal-aware Graph Neural Architecture Search (CARNAS)は、アーキテクチャ探索プロセス中に因果グラフ-アーキテクチャ関係をキャプチャする。
本稿では,潜伏空間内の因果部分グラフに介入するグラフ埋め込み干渉法を提案する。
- 参考スコア(独自算出の注目度): 48.02254981004058
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Graph NAS has emerged as a promising approach for autonomously designing GNN architectures by leveraging the correlations between graphs and architectures. Existing methods fail to generalize under distribution shifts that are ubiquitous in real-world graph scenarios, mainly because the graph-architecture correlations they exploit might be spurious and varying across distributions. We propose to handle the distribution shifts in the graph architecture search process by discovering and exploiting the causal relationship between graphs and architectures to search for the optimal architectures that can generalize under distribution shifts. The problem remains unexplored with following challenges: how to discover the causal graph-architecture relationship that has stable predictive abilities across distributions, and how to handle distribution shifts with the discovered causal graph-architecture relationship to search the generalized graph architectures. To address these challenges, we propose Causal-aware Graph Neural Architecture Search (CARNAS), which is able to capture the causal graph-architecture relationship during the architecture search process and discover the generalized graph architecture under distribution shifts. Specifically, we propose Disentangled Causal Subgraph Identification to capture the causal subgraphs that have stable prediction abilities across distributions. Then, we propose Graph Embedding Intervention to intervene on causal subgraphs within the latent space, ensuring that these subgraphs encapsulate essential features for prediction while excluding non-causal elements. Additionally, we propose Invariant Architecture Customization to reinforce the causal invariant nature of the causal subgraphs, which are utilized to tailor generalized graph architectures. Extensive experiments demonstrate that CARNAS achieves advanced out-of-distribution generalization ability.
- Abstract(参考訳): Graph NASは、グラフとアーキテクチャ間の相関を利用して、GNNアーキテクチャを自律的に設計するための有望なアプローチとして登場した。
既存の手法は、実世界のグラフシナリオにおいてユビキタスな分布シフトの下で一般化できない。
本稿では,グラフとアーキテクチャ間の因果関係を探索し,分散シフトの下で一般化可能な最適アーキテクチャを探索することにより,グラフアーキテクチャ探索プロセスにおける分散シフトの処理を提案する。
この問題は、分布をまたいだ安定した予測能力を持つ因果グラフ-アーキテクチャ関係の発見方法や、一般化グラフアーキテクチャの探索のために発見された因果グラフ-アーキテクチャ関係による分布シフトの処理方法など、未解明のままである。
これらの課題に対処するために、アーキテクチャ探索プロセス中に因果グラフ-アーキテクチャ関係を捕捉し、分散シフトの下で一般化グラフアーキテクチャを発見できるCausal-aware Graph Neural Architecture Search (CARNAS)を提案する。
具体的には、分布の安定な予測能力を有する因果部分グラフをキャプチャするために、Distangled Causal Subgraph Identificationを提案する。
そこで我々は,非因果要素を除外しながら,これらの部分グラフが予測に不可欠な特徴をカプセル化することを保証するグラフ埋め込み干渉法を提案する。
さらに,因果部分グラフの因果不変性を強化するための不変アーキテクチャカスタマイズを提案する。
大規模な実験により、CARNASは高度な分布外一般化能力を達成することが示された。
関連論文リスト
- GraphCroc: Cross-Correlation Autoencoder for Graph Structural Reconstruction [6.817416560637197]
グラフオートエンコーダ(GAE)はノード埋め込みからグラフ構造を再構築する。
我々はGAE表現能力を著しく向上する相互相関機構を導入する。
また、さまざまな下流タスクに適したフレキシブルエンコーダアーキテクチャをサポートする新しいGAEであるGraphCrocを提案する。
論文 参考訳(メタデータ) (2024-10-04T12:59:45Z) - AnyGraph: Graph Foundation Model in the Wild [16.313146933922752]
グラフ基盤モデルは、グラフデータから堅牢で一般化可能な表現を学ぶ可能性を提供します。
本研究では,主要な課題に対処するために設計された統一グラフモデルであるAnyGraphについて検討する。
多様な38のグラフデータセットに対する実験は、AnyGraphの強力なゼロショット学習性能を実証した。
論文 参考訳(メタデータ) (2024-08-20T09:57:13Z) - Unsupervised Graph Neural Architecture Search with Disentangled
Self-supervision [51.88848982611515]
教師なしグラフニューラルアーキテクチャサーチは、文献では未発見のままである。
本稿では,Distangled Self-supervised Graph Neural Architecture Searchモデルを提案する。
我々のモデルは、教師なしの方法で、いくつかのベースライン手法に対して最先端のパフォーマンスを達成することができる。
論文 参考訳(メタデータ) (2024-03-08T05:23:55Z) - Link Prediction with Relational Hypergraphs [28.594243961681684]
知識グラフとのリンク予測は、グラフ機械学習において徹底的に研究されている。
本稿では,グラフニューラルネットワークの完全なリレーショナル構造への応用を解き放ち,リレーショナルハイパーグラフとリンク予測を行うフレームワークを提案する。
論文 参考訳(メタデータ) (2024-02-06T15:05:40Z) - From Graphs to Hypergraphs: Hypergraph Projection and its Remediation [2.0590577326314787]
実世界の相互接続システムを表現するために,ハイパーグラフの代わりにグラフを使用する場合のモデリング選択の意味について検討する。
我々は,ハイパーエッジ分布の重要な統計量に基づく学習に基づくハイパーグラフ再構成手法を開発した。
論文 参考訳(メタデータ) (2024-01-16T17:31:54Z) - GrannGAN: Graph annotation generative adversarial networks [72.66289932625742]
本稿では,高次元分布をモデル化し,グラフスケルトンと整合した複雑な関係特徴構造を持つデータの新しい例を生成することの問題点を考察する。
提案するモデルは,タスクを2つのフェーズに分割することで,各データポイントのグラフ構造に制約されたデータ特徴を生成する問題に対処する。
第一に、与えられたグラフのノードに関連する機能の分布をモデル化し、第二に、ノードのフィーチャに条件付きでエッジ機能を補完する。
論文 参考訳(メタデータ) (2022-12-01T11:49:07Z) - Graph Condensation via Receptive Field Distribution Matching [61.71711656856704]
本稿では,元のグラフを表す小さなグラフの作成に焦点をあてる。
我々は、元のグラフを受容体の分布とみなし、受容体が同様の分布を持つ小さなグラフを合成することを目的としている。
論文 参考訳(メタデータ) (2022-06-28T02:10:05Z) - GraphOpt: Learning Optimization Models of Graph Formation [72.75384705298303]
本稿では,グラフ構造形成の暗黙的モデルを学ぶエンドツーエンドフレームワークを提案し,その基盤となる最適化機構を明らかにする。
学習した目的は、観測されたグラフプロパティの説明として機能し、ドメイン内の異なるグラフを渡すために自分自身を貸すことができる。
GraphOptは、グラフ内のリンク生成をシーケンシャルな意思決定プロセスとして、最大エントロピー逆強化学習アルゴリズムを用いて解決する。
論文 参考訳(メタデータ) (2020-07-07T16:51:39Z) - Structural Landmarking and Interaction Modelling: on Resolution Dilemmas
in Graph Classification [50.83222170524406]
解法ジレンマの統一概念に基づくグラフ分類における本質的難易度の研究」
構造ランドマークと相互作用モデリングのためのインダクティブニューラルネットワークモデルSLIM'を提案する。
論文 参考訳(メタデータ) (2020-06-29T01:01:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。