論文の概要: IENE: Identifying and Extrapolating the Node Environment for Out-of-Distribution Generalization on Graphs

• arxiv url: http://arxiv.org/abs/2406.00764v1
• Date: Sun, 2 Jun 2024 14:43:56 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-06 03:36:42.512873
• Title: IENE: Identifying and Extrapolating the Node Environment for Out-of-Distribution Generalization on Graphs
• Title（参考訳）: IENE: グラフのアウト・オブ・ディストリビューションの一般化のためのノード環境の特定と外挿
• Authors: Haoran Yang, Xiaobing Pei, Kai Yuan,
• Abstract要約: ノードレベルの環境識別と外挿技術に基づくグラフのOOD一般化手法であるIENEを提案する。 モデルが2つの粒度から不変性を同時に抽出する能力を強化し、一般化が向上する。
• 参考スコア（独自算出の注目度）: 10.087216264788097
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Due to the performance degradation of graph neural networks (GNNs) under distribution shifts, the work on out-of-distribution (OOD) generalization on graphs has received widespread attention. A novel perspective involves distinguishing potential confounding biases from different environments through environmental identification, enabling the model to escape environmentally-sensitive correlations and maintain stable performance under distribution shifts. However, in graph data, confounding factors not only affect the generation process of node features but also influence the complex interaction between nodes. We observe that neglecting either aspect of them will lead to a decrease in performance. In this paper, we propose IENE, an OOD generalization method on graphs based on node-level environmental identification and extrapolation techniques. It strengthens the model's ability to extract invariance from two granularities simultaneously, leading to improved generalization. Specifically, to identify invariance in features, we utilize the disentangled information bottleneck framework to achieve mutual promotion between node-level environmental estimation and invariant feature learning. Furthermore, we extrapolate topological environments through graph augmentation techniques to identify structural invariance. We implement the conceptual method with specific algorithms and provide theoretical analysis and proofs for our approach. Extensive experimental evaluations on two synthetic and four real-world OOD datasets validate the superiority of IENE, which outperforms existing techniques and provides a flexible framework for enhancing the generalization of GNNs.
• Abstract（参考訳）: 分散シフト下でのグラフニューラルネットワーク(GNN)の性能劣化により,グラフのアウト・オブ・ディストリビューション(OOD)一般化に関する研究が注目されている。 新たな視点では、環境識別を通じて異なる環境からのバイアスを識別することで、モデルが環境に敏感な相関を逃れ、分散シフトの下で安定した性能を維持することができる。 しかし、グラフデータでは、共起因子はノード特徴の生成プロセスに影響を及ぼすだけでなく、ノード間の複雑な相互作用にも影響を及ぼす。 いずれの側面も無視するとパフォーマンスが低下するのを観察する。 本稿では,ノードレベルの環境識別と外挿手法に基づくグラフのOOD一般化手法であるIENEを提案する。 モデルが2つの粒度から不変性を同時に抽出する能力を強化し、一般化が向上する。 具体的には,特徴の不変性を識別するために,不整合情報ボトルネックフレームワークを用いて,ノードレベルの環境推定と不変特徴学習の相互促進を実現する。 さらに, トポロジ環境をグラフ拡張法により外挿し, 構造的不変性を同定する。 我々は,特定のアルゴリズムを用いて概念的手法を実装し,理論的解析と提案手法の証明を行う。 2つの合成OODデータセットと4つの実世界のOODデータセットの大規模な実験的評価は、IENEの優位性を検証し、既存の技術より優れ、GNNの一般化を促進するフレキシブルなフレームワークを提供する。

関連論文リスト

• Mitigating Graph Covariate Shift via Score-based Out-of-distribution Augmentation [16.59129444793973]
  トレーニングとテストデータセット間の分散シフトは、グラフ学習におけるモデルパフォーマンスを著しく損なう。 本稿では,全体のグラフパターンの妥当性と安定性を保ちつつ,未知の環境特徴を合成するスコアベースのグラフ生成戦略を用いた新しい手法を提案する。
  論文  参考訳（メタデータ） (2024-10-23T02:09:02Z)
• Improving Graph Out-of-distribution Generalization on Real-world Data [25.328653597674197]
  本稿では,環境-ラベル依存性と可変理性不変性の定理について述べる。 分析研究に基づき, 実世界データ上でのOODグラフの確率依存性と合理性」という, 変分推論に基づく新しい手法を紹介した。
  論文  参考訳（メタデータ） (2024-07-14T13:48:25Z)
• Improving out-of-distribution generalization in graphs via hierarchical semantic environments [5.481047026874547]
  グラフ毎に階層的な環境を生成する新しい手法を提案する。 我々は、同じ階層内の環境の多様性を学ぶために、我々のモデルを導く新しい学習目標を導入する。 我々のフレームワークは、それぞれIC50とEC50予測タスクの最高のベースラインに対して、1.29%と2.83%の改善を実現しています。
  論文  参考訳（メタデータ） (2024-03-04T07:03:10Z)
• Graph Out-of-Distribution Generalization via Causal Intervention [69.70137479660113]
  本稿では,ノードレベルの分散シフトの下で頑健なグラフニューラルネットワーク(GNN)をトレーニングするための,概念的に単純だが原則化されたアプローチを提案する。 本手法は,環境推定器と熟練GNN予測器を協調する因果推論に基づく新たな学習目標を提案する。 本モデルでは,様々な分散シフトによる一般化を効果的に向上し,グラフOOD一般化ベンチマーク上での最先端の精度を最大27.4%向上させることができる。
  論文  参考訳（メタデータ） (2024-02-18T07:49:22Z)
• Energy-based Out-of-Distribution Detection for Graph Neural Networks [76.0242218180483]
  我々は,GNNSafeと呼ばれるグラフ上での学習のための,シンプルで強力で効率的なOOD検出モデルを提案する。 GNNSafeは、最先端技術に対するAUROCの改善を最大17.0%で達成しており、そのような未開発領域では単純だが強力なベースラインとして機能する可能性がある。
  論文  参考訳（メタデータ） (2023-02-06T16:38:43Z)
• Interpolation-based Correlation Reduction Network for Semi-Supervised Graph Learning [49.94816548023729]
  補間型相関低減ネットワーク(ICRN)と呼ばれる新しいグラフコントラスト学習手法を提案する。 提案手法では,決定境界のマージンを大きくすることで,潜在特徴の識別能力を向上させる。 この2つの設定を組み合わせることで、豊富なラベル付きノードと稀に価値あるラベル付きノードから豊富な監視情報を抽出し、離散表現学習を行う。
  論文  参考訳（メタデータ） (2022-06-06T14:26:34Z)
• Heterogeneous Graph Neural Networks using Self-supervised Reciprocally Contrastive Learning [102.9138736545956]
  不均一グラフニューラルネットワーク(HGNN)は異種グラフのモデリングと解析において非常に一般的な手法である。 我々は,ノード属性とグラフトポロジの各ガイダンスに関する2つの視点を取り入れた,新規で頑健なヘテロジニアスグラフコントラスト学習手法であるHGCLを初めて開発する。 この新しいアプローチでは,属性とトポロジに関連情報を別々にマイニングする手法として,異なるが最も適した属性とトポロジの融合機構を2つの視点に適用する。
  論文  参考訳（メタデータ） (2022-04-30T12:57:02Z)
• Invariance Principle Meets Out-of-Distribution Generalization on Graphs [66.04137805277632]
  グラフの複素性質は、OOD一般化の不変原理の採用を妨げている。 OODメソッドでしばしば必要とされるドメインや環境のパーティションは、グラフを得るために取得するのにコストがかかる。 コントラスト戦略を用いて,このプロセスを明確にモデル化する新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-02-11T04:38:39Z)
• Handling Distribution Shifts on Graphs: An Invariance Perspective [78.31180235269035]
  我々は、グラフ上のOOD問題を定式化し、新しい不変学習手法である探索・拡張リスク最小化(EERM)を開発する。 EERMは、複数の仮想環境からのリスクの分散を最大化するために、敵対的に訓練された複数のコンテキストエクスプローラーを利用する。 理論的に有効なOOD解の保証を示すことによって,本手法の有効性を実証する。
  論文  参考訳（メタデータ） (2022-02-05T02:31:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。