論文の概要: Empowering Graph Invariance Learning with Deep Spurious Infomax

• arxiv url: http://arxiv.org/abs/2407.11083v1
• Date: Sat, 13 Jul 2024 14:18:47 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-17 20:00:37.462639
• Title: Empowering Graph Invariance Learning with Deep Spurious Infomax
• Title（参考訳）: Deep Spurious Infomaxによるグラフ不変性学習の強化
• Authors: Tianjun Yao, Yongqiang Chen, Zhenhao Chen, Kai Hu, Zhiqiang Shen, Kun Zhang,
• Abstract要約: 本稿では,頑健かつ一般的な帰納バイアスを誘発する新しいグラフ不変性学習パラダイムを提案する。 EQuADは、合成データセットにおける様々なバイアスの度合いにまたがって安定したパフォーマンスを示し、実世界のデータセットに最大311.76%の価格で挑戦する。
• 参考スコア（独自算出の注目度）: 27.53568333416706
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recently, there has been a surge of interest in developing graph neural networks that utilize the invariance principle on graphs to generalize the out-of-distribution (OOD) data. Due to the limited knowledge about OOD data, existing approaches often pose assumptions about the correlation strengths of the underlying spurious features and the target labels. However, this prior is often unavailable and will change arbitrarily in the real-world scenarios, which may lead to severe failures of the existing graph invariance learning methods. To bridge this gap, we introduce a novel graph invariance learning paradigm, which induces a robust and general inductive bias. The paradigm is built upon the observation that the infomax principle encourages learning spurious features regardless of spurious correlation strengths. We further propose the EQuAD framework that realizes this learning paradigm and employs tailored learning objectives that provably elicit invariant features by disentangling them from the spurious features learned through infomax. Notably, EQuAD shows stable and enhanced performance across different degrees of bias in synthetic datasets and challenging real-world datasets up to $31.76\%$. Our code is available at \url{https://github.com/tianyao-aka/EQuAD}.
• Abstract（参考訳）: 近年,分布外データ(OOD)を一般化するためにグラフ上の不変原理を利用するグラフニューラルネットワークの開発への関心が高まっている。 OODデータに関する知識が限られているため、既存のアプローチは、基礎となるスプリアス特徴とターゲットラベルの相関強度を仮定することが多い。 しかし、この事前は利用できないことが多く、現実のシナリオでは任意に変化し、既存のグラフ不変性学習手法の深刻な失敗につながる可能性がある。 このギャップを埋めるために、我々は、頑健で一般的な帰納的バイアスを誘発する新しいグラフ不変性学習パラダイムを導入する。 このパラダイムは、インフォマックス原理が、素早い相関強度に関係なく、素早い特徴の学習を促進するという観察に基づいて構築されている。 さらに、この学習パラダイムを実現するためのEQuADフレームワークを提案し、インフォマックスで学習した刺激的な特徴からそれらを切り離すことによって、不変性を確実に引き出すような、適切な学習目標を採用する。 特に、EQuADは、合成データセットにおける様々なバイアスの度合いで安定し、改善されたパフォーマンスを示し、実世界のデータセットに最大311.76\%$で挑戦する。 私たちのコードは \url{https://github.com/tianyao-aka/EQuAD} で利用可能です。

関連論文リスト

• A Survey of Deep Graph Learning under Distribution Shifts: from Graph Out-of-Distribution Generalization to Adaptation [59.14165404728197]
  我々は,分散シフト下での深層グラフ学習について,最新かつ先見的なレビューを行う。 具体的には,グラフ OOD 一般化,トレーニング時グラフ OOD 適応,テスト時グラフ OOD 適応の3つのシナリオについて述べる。 文献の理解を深めるために,提案した分類に基づく既存モデルを体系的に分類した。
  論文  参考訳（メタデータ） (2024-10-25T02:39:56Z)
• Leveraging Variation Theory in Counterfactual Data Augmentation for Optimized Active Learning [19.962212551963383]
  アクティブラーニング(AL)は、モデルがユーザフィードバックからインタラクティブに学習することを可能にする。 本稿では,ALに反実データ拡張手法を提案する。
  論文  参考訳（メタデータ） (2024-08-07T14:55:04Z)
• Invariant Graph Learning Meets Information Bottleneck for Out-of-Distribution Generalization [9.116601683256317]
  本研究では,情報ボトルネック理論に基づく不変グラフ学習(Invariant Graph Learning)という新しいフレームワークを提案する。 具体的には,環境要因に関連するタスク関連情報を圧縮する冗長フィルタを提案する。 合成と実世界の両方のデータセットを用いた実験により,OODの一般化による最先端性能の実現が実証された。
  論文  参考訳（メタデータ） (2024-08-03T07:38:04Z)
• Imbalanced Graph-Level Anomaly Detection via Counterfactual Augmentation and Feature Learning [1.3756846638796]
  本稿では,非バランスなGLAD手法を提案する。 我々は、このモデルを脳疾患データセットに適用し、我々の研究の能力を証明することができる。
  論文  参考訳（メタデータ） (2024-07-13T13:40:06Z)
• Graph Out-of-Distribution Generalization via Causal Intervention [69.70137479660113]
  本稿では,ノードレベルの分散シフトの下で頑健なグラフニューラルネットワーク(GNN)をトレーニングするための,概念的に単純だが原則化されたアプローチを提案する。 本手法は,環境推定器と熟練GNN予測器を協調する因果推論に基づく新たな学習目標を提案する。 本モデルでは,様々な分散シフトによる一般化を効果的に向上し,グラフOOD一般化ベンチマーク上での最先端の精度を最大27.4%向上させることができる。
  論文  参考訳（メタデータ） (2024-02-18T07:49:22Z)
• GIF: A General Graph Unlearning Strategy via Influence Function [63.52038638220563]
  Graph Influence Function (GIF)は、削除されたデータにおける$epsilon$-massの摂動に応答してパラメータの変化を効率的に正確に推定できる、モデルに依存しない未学習の手法である。 我々は,4つの代表的GNNモデルと3つのベンチマークデータセットについて広範な実験を行い,未学習の有効性,モデルの有用性,未学習効率の観点からGIFの優位性を正当化する。
  論文  参考訳（メタデータ） (2023-04-06T03:02:54Z)
• Unleashing the Power of Graph Data Augmentation on Covariate Distribution Shift [50.98086766507025]
  本稿では,AIA(Adversarial Invariant Augmentation)という,シンプルで効率の良いデータ拡張戦略を提案する。 AIAは、拡張プロセス中に元の安定した特徴を同時に保存しながら、新しい環境をエクスポーレーションし、生成することを目的としている。
  論文  参考訳（メタデータ） (2022-11-05T07:55:55Z)
• Handling Distribution Shifts on Graphs: An Invariance Perspective [78.31180235269035]
  我々は、グラフ上のOOD問題を定式化し、新しい不変学習手法である探索・拡張リスク最小化(EERM)を開発する。 EERMは、複数の仮想環境からのリスクの分散を最大化するために、敵対的に訓練された複数のコンテキストエクスプローラーを利用する。 理論的に有効なOOD解の保証を示すことによって,本手法の有効性を実証する。
  論文  参考訳（メタデータ） (2022-02-05T02:31:01Z)
• Deconfounded Training for Graph Neural Networks [98.06386851685645]
  本稿では, コンバウンディング効果を緩和し, 臨界情報に対するラッチを緩和する新しいDecon Training(DTP)のパラダイムを提案する。 具体的には、注意モジュールを用いて臨界部分グラフと自明部分グラフをアンタングル化する。 これにより、GNNは、ラベルとの関係が複数のディストリビューションで堅牢である、より信頼性の高いサブグラフをキャプチャできる。
  論文  参考訳（メタデータ） (2021-12-30T15:22:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。