論文の概要: Learning Invariant Graph Representations Through Redundant Information
- arxiv url: http://arxiv.org/abs/2512.06154v1
- Date: Fri, 05 Dec 2025 21:07:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-12-09 22:03:54.207827
- Title: Learning Invariant Graph Representations Through Redundant Information
- Title(参考訳): 冗長情報による不変グラフ表現の学習
- Authors: Barproda Halder, Pasan Dissanayake, Sanghamitra Dutta,
- Abstract要約: 本研究はPID(Partial Information Decomposition)と呼ばれる情報理論の新しいツールを紹介する。
本稿では,余剰情報を最大化し,余剰部分グラフを分離する多段階最適化フレームワークを提案する。
合成および実世界のグラフデータセットを用いた実験により,提案したRIGフレームワークの一般化能力を実証した。
- 参考スコア(独自算出の注目度): 10.145277735449831
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Learning invariant graph representations for out-of-distribution (OOD) generalization remains challenging because the learned representations often retain spurious components. To address this challenge, this work introduces a new tool from information theory called Partial Information Decomposition (PID) that goes beyond classical information-theoretic measures. We identify limitations in existing approaches for invariant representation learning that solely rely on classical information-theoretic measures, motivating the need to precisely focus on redundant information about the target $Y$ shared between spurious subgraphs $G_s$ and invariant subgraphs $G_c$ obtained via PID. Next, we propose a new multi-level optimization framework that we call -- Redundancy-guided Invariant Graph learning (RIG) -- that maximizes redundant information while isolating spurious and causal subgraphs, enabling OOD generalization under diverse distribution shifts. Our approach relies on alternating between estimating a lower bound of redundant information (which itself requires an optimization) and maximizing it along with additional objectives. Experiments on both synthetic and real-world graph datasets demonstrate the generalization capabilities of our proposed RIG framework.
- Abstract(参考訳): アウト・オブ・ディストリビューション(OOD)一般化のための不変グラフ表現の学習は、学習された表現がしばしば素早い成分を保持するため、依然として困難である。
この課題に対処するため,本研究では,古典的な情報理論的尺度を超える情報理論からPID(Partial Information Decomposition)と呼ばれる新しいツールを導入する。
古典的な情報理論的な測度にのみ依存する不変表現学習における既存のアプローチの限界を特定し、PIDを介して得られる急激な部分グラフ$G_s$と不変部分グラフ$G_c$の間で共有されるターゲットの$Y$に関する冗長な情報に正確にフォーカスする必要性を動機づける。
次に、冗長誘導不変グラフ学習(RIG)と呼ばれる新しいマルチレベル最適化フレームワークを提案する。
我々のアプローチは、冗長な情報の低い境界(それ自体が最適化を必要とする)を推定し、追加の目的と共にそれを最大化することの交互化に依存します。
合成および実世界のグラフデータセットを用いた実験により,提案したRIGフレームワークの一般化能力を実証した。
関連論文リスト
- Rethinking Graph Out-Of-Distribution Generalization: A Learnable Random Walk Perspective [29.59986993135573]
Out-Of-Distribution (OOD) の一般化は、グラフ上での機械学習において注目を集めている。
不変知識の瞬時に学習可能なランダムウォーク(LRW)の視点を提案する。
本モデルでは,様々な分散シフトの下でグラフOOD一般化を効果的に向上し,3.87%の精度向上が得られる。
論文 参考訳(メタデータ) (2025-05-09T04:58:48Z) - Generative Risk Minimization for Out-of-Distribution Generalization on Graphs [71.48583448654522]
本稿では,抽出ではなく,各入力グラフの不変部分グラフを生成するために,GRM (Generative Risk Minimization) という革新的なフレームワークを提案する。
我々は,ノードレベルのOOD一般化とグラフレベルのOOD一般化のために,さまざまな実世界のグラフデータセットに対して広範な実験を行う。
論文 参考訳(メタデータ) (2025-02-11T21:24:13Z) - Invariant Graph Learning Meets Information Bottleneck for Out-of-Distribution Generalization [9.116601683256317]
本研究では,情報ボトルネック理論に基づく不変グラフ学習(Invariant Graph Learning)という新しいフレームワークを提案する。
具体的には,環境要因に関連するタスク関連情報を圧縮する冗長フィルタを提案する。
合成と実世界の両方のデータセットを用いた実験により,OODの一般化による最先端性能の実現が実証された。
論文 参考訳(メタデータ) (2024-08-03T07:38:04Z) - Unifying Invariance and Spuriousity for Graph Out-of-Distribution via
Probability of Necessity and Sufficiency [19.49531172542614]
Invariant Substructure (PNSIS) の抽出に必要かつ十分である確率を利用する統一的な枠組みを提案する。
いくつかのベンチマークでグラフOODの最先端技術よりも優れています。
論文 参考訳(メタデータ) (2024-02-14T13:31:53Z) - Graph Structure and Feature Extrapolation for Out-of-Distribution Generalization [54.64375566326931]
アウト・オブ・ディストリビューション(OOD)の一般化は、テスト分布がトレーニング分布からシフトする一般的な学習シナリオを扱う。
我々は,非ユークリッド空間線型補間の新しい設計により,グラフOOD一般化を実現することを提案する。
我々の設計は、根底にある因果機構を損なうことなく、OODサンプルを特定のシフトのために調整する。
論文 参考訳(メタデータ) (2023-06-13T18:46:28Z) - Invariance Principle Meets Out-of-Distribution Generalization on Graphs [66.04137805277632]
グラフの複素性質は、OOD一般化の不変原理の採用を妨げている。
OODメソッドでしばしば必要とされるドメインや環境のパーティションは、グラフを得るために取得するのにコストがかかる。
コントラスト戦略を用いて,このプロセスを明確にモデル化する新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2022-02-11T04:38:39Z) - Handling Distribution Shifts on Graphs: An Invariance Perspective [78.31180235269035]
我々は、グラフ上のOOD問題を定式化し、新しい不変学習手法である探索・拡張リスク最小化(EERM)を開発する。
EERMは、複数の仮想環境からのリスクの分散を最大化するために、敵対的に訓練された複数のコンテキストエクスプローラーを利用する。
理論的に有効なOOD解の保証を示すことによって,本手法の有効性を実証する。
論文 参考訳(メタデータ) (2022-02-05T02:31:01Z) - Graph Representation Learning via Graphical Mutual Information
Maximization [86.32278001019854]
本稿では,入力グラフとハイレベルな隠蔽表現との相関を測る新しい概念であるGMIを提案する。
我々は,グラフニューラルエンコーダの入力と出力の間でGMIを最大化することで訓練された教師なし学習モデルを開発する。
論文 参考訳(メタデータ) (2020-02-04T08:33:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。