論文の概要: Invariance Principle Meets Out-of-Distribution Generalization on Graphs
- arxiv url: http://arxiv.org/abs/2202.05441v1
- Date: Fri, 11 Feb 2022 04:38:39 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-15 05:39:33.501400
- Title: Invariance Principle Meets Out-of-Distribution Generalization on Graphs
- Title(参考訳): グラフ上の分散の一般化を満たす不変原理
- Authors: Yongqiang Chen, Yonggang Zhang, Han Yang, Kaili Ma, Binghui Xie,
Tongliang Liu, Bo Han, James Cheng
- Abstract要約: グラフの複素性質は、OOD一般化の不変原理の採用を妨げている。
OODメソッドでしばしば必要とされるドメインや環境のパーティションは、グラフを得るために取得するのにコストがかかる。
コントラスト戦略を用いて,このプロセスを明確にモデル化する新しいフレームワークを提案する。
- 参考スコア(独自算出の注目度): 66.04137805277632
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Despite recent developments in using the invariance principle from causality
to enable out-of-distribution (OOD) generalization on Euclidean data, e.g.,
images, studies on graph data are limited. Different from images, the complex
nature of graphs poses unique challenges that thwart the adoption of the
invariance principle for OOD generalization. In particular, distribution shifts
on graphs can happen at both structure-level and attribute-level, which
increases the difficulty of capturing the invariance. Moreover, domain or
environment partitions, which are often required by OOD methods developed on
Euclidean data, can be expensive to obtain for graphs. Aiming to bridge this
gap, we characterize distribution shifts on graphs with causal models, and show
that the OOD generalization on graphs with invariance principle is possible by
identifying an invariant subgraph for making predictions. We propose a novel
framework to explicitly model this process using a contrastive strategy. By
contrasting the estimated invariant subgraphs, our framework can provably
identify the underlying invariant subgraph under mild assumptions. Experiments
across several synthetic and real-world datasets demonstrate the
state-of-the-art OOD generalization ability of our method.
- Abstract(参考訳): 近年、因果関係からの非分散原理を用いたユークリッドデータへの外分布(ood)一般化(画像など)は限られている。
画像とは異なり、グラフの複雑な性質は、ood一般化における不変原理の採用を妨げるユニークな課題をもたらす。
特に、グラフ上の分布シフトは構造レベルと属性レベルの両方で起こり、不変性を取得するのが困難になる。
さらに、ユークリッドデータ上で開発されたOODメソッドでしばしば必要とされるドメインや環境の分割は、グラフを得るためには高価である。
このギャップを埋めるために,因果モデルを持つグラフ上の分布シフトを特徴付け,不変部分グラフを同定することで不変原理を持つグラフ上のood一般化が可能であることを示す。
コントラスト戦略を用いて,このプロセスを明確にモデル化する新しいフレームワークを提案する。
推定不変部分グラフとは対照的に、基礎となる不変部分グラフを穏やかな仮定の下で確実に識別することができる。
いくつかの合成および実世界のデータセットにまたがる実験は、我々の手法の最先端のOOD一般化能力を示す。
関連論文リスト
- Subgraph Aggregation for Out-of-Distribution Generalization on Graphs [29.884717215947745]
グラフニューラルネットワーク(GNN)におけるアウト・オブ・ディストリビューション(OOD)の一般化は注目されている。
多様なサブグラフの集合を学習するために設計された新しいフレームワークSubGraph Aggregation(SuGAr)を提案する。
合成データセットと実世界のデータセットの両方の実験では、SuGArが最先端の手法より優れていることが示されている。
論文 参考訳(メタデータ) (2024-10-29T16:54:37Z) - IENE: Identifying and Extrapolating the Node Environment for Out-of-Distribution Generalization on Graphs [10.087216264788097]
ノードレベルの環境識別と外挿技術に基づくグラフのOOD一般化手法であるIENEを提案する。
モデルが2つの粒度から不変性を同時に抽出する能力を強化し、一般化が向上する。
論文 参考訳(メタデータ) (2024-06-02T14:43:56Z) - Graphs Generalization under Distribution Shifts [11.963958151023732]
グラフ学習不変領域ジェネレーション(GLIDER)という新しいフレームワークを導入する。
本モデルでは,ノード特徴量と位相構造量の分布シフトを同時に行う場合,ノードレベルのOOD一般化に基づくベースライン手法よりも優れる。
論文 参考訳(メタデータ) (2024-03-25T00:15:34Z) - Graph Out-of-Distribution Generalization via Causal Intervention [69.70137479660113]
本稿では,ノードレベルの分散シフトの下で頑健なグラフニューラルネットワーク(GNN)をトレーニングするための,概念的に単純だが原則化されたアプローチを提案する。
本手法は,環境推定器と熟練GNN予測器を協調する因果推論に基づく新たな学習目標を提案する。
本モデルでは,様々な分散シフトによる一般化を効果的に向上し,グラフOOD一般化ベンチマーク上での最先端の精度を最大27.4%向上させることができる。
論文 参考訳(メタデータ) (2024-02-18T07:49:22Z) - Unifying Invariance and Spuriousity for Graph Out-of-Distribution via
Probability of Necessity and Sufficiency [19.49531172542614]
Invariant Substructure (PNSIS) の抽出に必要かつ十分である確率を利用する統一的な枠組みを提案する。
いくつかのベンチマークでグラフOODの最先端技術よりも優れています。
論文 参考訳(メタデータ) (2024-02-14T13:31:53Z) - Graph Out-of-Distribution Generalization with Controllable Data
Augmentation [51.17476258673232]
グラフニューラルネットワーク(GNN)は,グラフ特性の分類において異常な性能を示した。
トレーニングとテストデータの選択バイアスが原因で、分散偏差が広まっています。
仮想サンプルの分布偏差を測定するためのOODキャリブレーションを提案する。
論文 参考訳(メタデータ) (2023-08-16T13:10:27Z) - Graph Structure and Feature Extrapolation for Out-of-Distribution Generalization [54.64375566326931]
アウト・オブ・ディストリビューション(OOD)の一般化は、テスト分布がトレーニング分布からシフトする一般的な学習シナリオを扱う。
我々は,非ユークリッド空間線型補間の新しい設計により,グラフOOD一般化を実現することを提案する。
我々の設計は、根底にある因果機構を損なうことなく、OODサンプルを特定のシフトのために調整する。
論文 参考訳(メタデータ) (2023-06-13T18:46:28Z) - Handling Distribution Shifts on Graphs: An Invariance Perspective [78.31180235269035]
我々は、グラフ上のOOD問題を定式化し、新しい不変学習手法である探索・拡張リスク最小化(EERM)を開発する。
EERMは、複数の仮想環境からのリスクの分散を最大化するために、敵対的に訓練された複数のコンテキストエクスプローラーを利用する。
理論的に有効なOOD解の保証を示すことによって,本手法の有効性を実証する。
論文 参考訳(メタデータ) (2022-02-05T02:31:01Z) - A Robust and Generalized Framework for Adversarial Graph Embedding [73.37228022428663]
本稿では,AGE という逆グラフ埋め込みのための頑健なフレームワークを提案する。
AGEは、暗黙の分布から強化された負のサンプルとして偽の隣接ノードを生成する。
本フレームワークでは,3種類のグラフデータを扱う3つのモデルを提案する。
論文 参考訳(メタデータ) (2021-05-22T07:05:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。