論文の概要: Handling Distribution Shifts on Graphs: An Invariance Perspective
- arxiv url: http://arxiv.org/abs/2202.02466v1
- Date: Sat, 5 Feb 2022 02:31:01 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-13 16:36:05.913222
- Title: Handling Distribution Shifts on Graphs: An Invariance Perspective
- Title(参考訳): グラフ上の分布シフトを扱う:不変性の観点から
- Authors: Qitian Wu, Hengrui Zhang, Junchi Yan, David Wipf
- Abstract要約: グラフ上のノードレベルの予測にOOD問題を定式化する。
そこで我々は,探索から抽出までのリスク最小化という新たなドメイン不変学習手法を開発した。
理論的に有効なOOD解の保証を示すことによって,本手法の有効性を実証する。
- 参考スコア(独自算出の注目度): 77.14319095965058
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: There is increasing evidence suggesting neural networks' sensitivity to
distribution shifts, so that research on out-of-distribution (OOD)
generalization comes into the spotlight. Nonetheless, current endeavors mostly
focus on Euclidean data, and its formulation for graph-structured data is not
clear and remains under-explored, given the two-fold fundamental challenges: 1)
the inter-connection among nodes in one graph, which induces non-IID generation
of data points even under the same environment, and 2) the structural
information in the input graph, which is also informative for prediction. In
this paper, we formulate the OOD problem for node-level prediction on graphs
and develop a new domain-invariant learning approach, named
Explore-to-Extrapolate Risk Minimization, that facilitates GNNs to leverage
invariant graph features for prediction. The key difference to existing
invariant models is that we design multiple context explorers (specified as
graph editers in our case) that are adversarially trained to maximize the
variance of risks from multiple virtual environments. Such a design enables the
model to extrapolate from a single observed environment which is the common
case for node-level prediction. We prove the validity of our method by
theoretically showing its guarantee of a valid OOD solution and further
demonstrate its power on various real-world datasets for handling distribution
shifts from artificial spurious features, cross-domain transfers and dynamic
graph evolution.
- Abstract(参考訳): 分布シフトに対するニューラルネットワークの感受性を示す証拠が増えており、アウト・オブ・ディストリビューション(ood)一般化の研究が注目を浴びている。
それでも、現在の取り組みは主にユークリッドのデータに焦点を当てており、グラフ構造化データの定式化は明確ではなく、2つの根本的な課題を考えれば、未調査のままである。
1)同一環境下でも非IIDデータポイントの発生を誘導する1つのグラフ内のノード間の相互接続
2)入力グラフの構造情報は,予測にも有用である。
本稿では,グラフ上のノードレベルの予測のためのOOD問題を定式化し,GNNが予測に不変なグラフ機能を利用するのを容易にする探索・拡張リスク最小化という新しいドメイン不変学習手法を開発する。
既存の不変モデルとの大きな違いは、複数の仮想環境からのリスクの分散を最大化するために、敵対的に訓練された複数のコンテキストエクスプローラーを設計することである。
このような設計により、ノードレベルの予測の一般的なケースである単一の観測環境からモデルを外挿することができる。
提案手法の有効性は,有効なOODソリューションの保証を理論的に示すことによって証明し,さらに,人工的なスプリアス特徴やクロスドメイン転送,動的グラフの進化といった分布シフトを扱うための実世界のデータセットにその能力を示す。
関連論文リスト
- Graph Out-of-Distribution Generalization via Causal Intervention [74.77883794668324]
本稿では,ノードレベルの分散シフトの下で頑健なグラフニューラルネットワーク(GNN)をトレーニングするための,概念的に単純だが原則化されたアプローチを提案する。
本手法は,環境推定器と熟練GNN予測器を協調する因果推論に基づく新たな学習目標を提案する。
本モデルでは,様々な分散シフトによる一般化を効果的に向上し,グラフOOD一般化ベンチマーク上での最先端の精度を最大27.4%向上させることができる。
論文 参考訳(メタデータ) (2024-02-18T07:49:22Z) - Graph Out-of-Distribution Generalization with Controllable Data
Augmentation [51.17476258673232]
グラフニューラルネットワーク(GNN)は,グラフ特性の分類において異常な性能を示した。
トレーニングとテストデータの選択バイアスが原因で、分散偏差が広まっています。
仮想サンプルの分布偏差を測定するためのOODキャリブレーションを提案する。
論文 参考訳(メタデータ) (2023-08-16T13:10:27Z) - MixupExplainer: Generalizing Explanations for Graph Neural Networks with
Data Augmentation [6.307753856507624]
グラフニューラルネットワーク(GNN)は、グラフ構造化データから学習する能力によって、注目を集めている。
GNN予測を理解するために、ポストホックなインスタンスレベルの説明法が提案されている。
我々は,既存手法における分布シフト問題の存在に光を当て,説明の質に影響を及ぼす。
論文 参考訳(メタデータ) (2023-07-15T15:46:38Z) - Variational Disentangled Graph Auto-Encoders for Link Prediction [10.390861526194662]
本稿では,DGAE(disentangled graph auto-encoder)とVDGAE(variantal disentangled graph auto-encoder)の2つの変種を持つ新しいフレームワークを提案する。
提案フレームワークは,グラフのエッジの原因となる潜伏因子を推定し,その表現を一意の潜伏因子に対応する複数のチャネルに分解する。
論文 参考訳(メタデータ) (2023-06-20T06:25:05Z) - Interpolation-based Correlation Reduction Network for Semi-Supervised
Graph Learning [49.94816548023729]
補間型相関低減ネットワーク(ICRN)と呼ばれる新しいグラフコントラスト学習手法を提案する。
提案手法では,決定境界のマージンを大きくすることで,潜在特徴の識別能力を向上させる。
この2つの設定を組み合わせることで、豊富なラベル付きノードと稀に価値あるラベル付きノードから豊富な監視情報を抽出し、離散表現学習を行う。
論文 参考訳(メタデータ) (2022-06-06T14:26:34Z) - Invariance Principle Meets Out-of-Distribution Generalization on Graphs [66.04137805277632]
グラフの複素性質は、OOD一般化の不変原理の採用を妨げている。
OODメソッドでしばしば必要とされるドメインや環境のパーティションは、グラフを得るために取得するのにコストがかかる。
コントラスト戦略を用いて,このプロセスを明確にモデル化する新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2022-02-11T04:38:39Z) - Discovering Invariant Rationales for Graph Neural Networks [104.61908788639052]
グラフニューラルネットワーク(GNN)の固有の解釈可能性とは、入力グラフの特徴の小さなサブセットを見つけることである。
本稿では,本質的に解釈可能なGNNを構築するために,不変理性(DIR)を発見するための新しい戦略を提案する。
論文 参考訳(メタデータ) (2022-01-30T16:43:40Z) - Crime Prediction with Graph Neural Networks and Multivariate Normal
Distributions [18.640610803366876]
グラフ畳み込みネットワーク(GCN)のフレキシブルな構造を利用して,高分解能領域における疎結合問題に取り組む。
グラフ畳み込みGated Recurrent Units (Graph-ConvGRU) を用いてモデルを構築し,空間的・時間的・カテゴリー的関係を学習する。
モデルが生成性だけでなく,正確性も示しています。
論文 参考訳(メタデータ) (2021-11-29T17:37:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。