論文の概要: Improving out-of-distribution generalization in graphs via hierarchical
semantic environments
- arxiv url: http://arxiv.org/abs/2403.01773v1
- Date: Mon, 4 Mar 2024 07:03:10 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-06 19:59:01.348523
- Title: Improving out-of-distribution generalization in graphs via hierarchical
semantic environments
- Title(参考訳): 階層的意味環境によるグラフの分配外一般化の改善
- Authors: Yinhua Piao, Sangseon Lee, Yijingxiu Lu, Sun Kim
- Abstract要約: グラフ毎に階層的な環境を生成する新しい手法を提案する。
我々は、同じ階層内の環境の多様性を学ぶために、我々のモデルを導く新しい学習目標を導入する。
我々のフレームワークは、それぞれIC50とEC50予測タスクの最高のベースラインに対して、1.29%と2.83%の改善を実現しています。
- 参考スコア(独自算出の注目度): 5.987650121126748
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Out-of-distribution (OOD) generalization in the graph domain is challenging
due to complex distribution shifts and a lack of environmental contexts. Recent
methods attempt to enhance graph OOD generalization by generating flat
environments. However, such flat environments come with inherent limitations to
capture more complex data distributions. Considering the DrugOOD dataset, which
contains diverse training environments (e.g., scaffold, size, etc.), flat
contexts cannot sufficiently address its high heterogeneity. Thus, a new
challenge is posed to generate more semantically enriched environments to
enhance graph invariant learning for handling distribution shifts. In this
paper, we propose a novel approach to generate hierarchical semantic
environments for each graph. Firstly, given an input graph, we explicitly
extract variant subgraphs from the input graph to generate proxy predictions on
local environments. Then, stochastic attention mechanisms are employed to
re-extract the subgraphs for regenerating global environments in a hierarchical
manner. In addition, we introduce a new learning objective that guides our
model to learn the diversity of environments within the same hierarchy while
maintaining consistency across different hierarchies. This approach enables our
model to consider the relationships between environments and facilitates robust
graph invariant learning. Extensive experiments on real-world graph data have
demonstrated the effectiveness of our framework. Particularly, in the
challenging dataset DrugOOD, our method achieves up to 1.29\% and 2.83\%
improvement over the best baselines on IC50 and EC50 prediction tasks,
respectively.
- Abstract(参考訳): グラフ領域におけるアウト・オブ・ディストリビューション(OOD)の一般化は、複雑な分布シフトと環境コンテキストの欠如により困難である。
近年,フラット環境の生成によるグラフオード一般化の促進が試みられている。
しかし、このような平坦な環境には、より複雑なデータ分散をキャプチャする固有の制限がある。
多様なトレーニング環境(例えば、足場、サイズなど)を含むTarmOODデータセットを考えると、フラットコンテキストは、その高い不均一性に十分対応できない。
このようにして、分散シフトを扱うためのグラフ不変学習を強化するために、より意味的にリッチな環境を生成する新しい課題が提示される。
本稿では,各グラフに対して階層的意味環境を生成する新しい手法を提案する。
まず,入力グラフが与えられた場合,入力グラフから変種部分グラフを明示的に抽出し,局所環境におけるプロキシ予測を生成する。
次に,グローバル環境を階層的に再生するサブグラフを再抽出するために,確率的注意機構を用いる。
さらに,異なる階層間の一貫性を維持しつつ,同一階層内の環境の多様性を学習するために,モデルを指導する新たな学習目標も導入する。
このアプローチにより,環境間の関係を考慮し,堅牢なグラフ不変学習を促進する。
実世界のグラフデータに関する大規模な実験は、我々のフレームワークの有効性を実証した。
特に挑戦的なデータセットである drugood では、ic50 と ec50 の予測タスクにおいて、最良ベースラインよりも最大 1.29\% と 2.83\% の改善を達成している。
関連論文リスト
- Graph Out-of-Distribution Generalization via Causal Intervention [74.77883794668324]
本稿では,ノードレベルの分散シフトの下で頑健なグラフニューラルネットワーク(GNN)をトレーニングするための,概念的に単純だが原則化されたアプローチを提案する。
本手法は,環境推定器と熟練GNN予測器を協調する因果推論に基づく新たな学習目標を提案する。
本モデルでは,様々な分散シフトによる一般化を効果的に向上し,グラフOOD一般化ベンチマーク上での最先端の精度を最大27.4%向上させることができる。
論文 参考訳(メタデータ) (2024-02-18T07:49:22Z) - Graph Invariant Learning with Subgraph Co-mixup for Out-Of-Distribution
Generalization [51.913685334368104]
本稿では,変分パターンと変分パターンの混合戦略に基づく新しいグラフ不変学習手法を提案する。
本手法は, 各種分布シフト下での最先端性能を著しく向上させる。
論文 参考訳(メタデータ) (2023-12-18T07:26:56Z) - Environment-Aware Dynamic Graph Learning for Out-of-Distribution
Generalization [41.58330883016538]
本研究では,環境学習の観点から,動的グラフのアウト・オブ・ディストリビューション(OOD)一般化について検討する。
本稿では,複雑な環境をモデル化し,新しいグラフ時間変動パターンを利用するOOD一般化のための環境対応動的グラフ学習(EAGLE)フレームワークを提案する。
我々の知る限りでは、環境学習の観点から動的グラフのOOD一般化を初めて研究する。
論文 参考訳(メタデータ) (2023-11-18T16:31:10Z) - Mind the Label Shift of Augmentation-based Graph OOD Generalization [88.32356432272356]
LiSAは、トレーニンググラフの textbfLabel-textbfinvariant textbfSubgraphs を利用して textbfAugmented環境を構築する。
LiSAは、一貫した予測関係を持つ多様な拡張環境を生成する。
ノードレベルのOODベンチマークとグラフレベルのOODベンチマークの実験により、LiSAは異なるGNNバックボーンで印象的な一般化性能を達成することが示された。
論文 参考訳(メタデータ) (2023-03-27T00:08:45Z) - Optimal Propagation for Graph Neural Networks [51.08426265813481]
最適グラフ構造を学習するための二段階最適化手法を提案する。
また、時間的複雑さをさらに軽減するために、低ランク近似モデルについても検討する。
論文 参考訳(メタデータ) (2022-05-06T03:37:00Z) - Handling Distribution Shifts on Graphs: An Invariance Perspective [77.14319095965058]
グラフ上のノードレベルの予測にOOD問題を定式化する。
そこで我々は,探索から抽出までのリスク最小化という新たなドメイン不変学習手法を開発した。
理論的に有効なOOD解の保証を示すことによって,本手法の有効性を実証する。
論文 参考訳(メタデータ) (2022-02-05T02:31:01Z) - A Robust and Generalized Framework for Adversarial Graph Embedding [73.37228022428663]
本稿では,AGE という逆グラフ埋め込みのための頑健なフレームワークを提案する。
AGEは、暗黙の分布から強化された負のサンプルとして偽の隣接ノードを生成する。
本フレームワークでは,3種類のグラフデータを扱う3つのモデルを提案する。
論文 参考訳(メタデータ) (2021-05-22T07:05:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。