論文の概要: Improving out-of-distribution generalization in graphs via hierarchical semantic environments

• arxiv url: http://arxiv.org/abs/2403.01773v2
• Date: Mon, 3 Jun 2024 05:05:24 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-04 16:18:27.141630
• Title: Improving out-of-distribution generalization in graphs via hierarchical semantic environments
• Title（参考訳）: 階層的セマンティック環境によるグラフの分布外一般化の改善
• Authors: Yinhua Piao, Sangseon Lee, Yijingxiu Lu, Sun Kim,
• Abstract要約: グラフ毎に階層的な環境を生成する新しい手法を提案する。 我々は、同じ階層内の環境の多様性を学ぶために、我々のモデルを導く新しい学習目標を導入する。 我々のフレームワークは、それぞれIC50とEC50予測タスクの最高のベースラインに対して、1.29%と2.83%の改善を実現しています。
• 参考スコア（独自算出の注目度）: 5.481047026874547
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Out-of-distribution (OOD) generalization in the graph domain is challenging due to complex distribution shifts and a lack of environmental contexts. Recent methods attempt to enhance graph OOD generalization by generating flat environments. However, such flat environments come with inherent limitations to capture more complex data distributions. Considering the DrugOOD dataset, which contains diverse training environments (e.g., scaffold, size, etc.), flat contexts cannot sufficiently address its high heterogeneity. Thus, a new challenge is posed to generate more semantically enriched environments to enhance graph invariant learning for handling distribution shifts. In this paper, we propose a novel approach to generate hierarchical semantic environments for each graph. Firstly, given an input graph, we explicitly extract variant subgraphs from the input graph to generate proxy predictions on local environments. Then, stochastic attention mechanisms are employed to re-extract the subgraphs for regenerating global environments in a hierarchical manner. In addition, we introduce a new learning objective that guides our model to learn the diversity of environments within the same hierarchy while maintaining consistency across different hierarchies. This approach enables our model to consider the relationships between environments and facilitates robust graph invariant learning. Extensive experiments on real-world graph data have demonstrated the effectiveness of our framework. Particularly, in the challenging dataset DrugOOD, our method achieves up to 1.29% and 2.83% improvement over the best baselines on IC50 and EC50 prediction tasks, respectively.
• Abstract（参考訳）: グラフ領域におけるアウト・オブ・ディストリビューション(OOD)の一般化は、複雑な分布シフトと環境コンテキストの欠如により困難である。 近年の手法は平らな環境を発生させることでOOD一般化のグラフ化を推し進めている。 しかし、このような平坦な環境には、より複雑なデータ分散をキャプチャする固有の制限がある。 多様なトレーニング環境(例えば、足場、サイズなど)を含むTarmOODデータセットを考えると、フラットコンテキストは、その高い不均一性に十分対応できない。 このようにして、分散シフトを扱うためのグラフ不変学習を強化するために、よりセマンティックに強化された環境を生成するための新しい課題が提示される。 本稿では,グラフ毎に階層的セマンティック環境を生成する新しい手法を提案する。 まず、入力グラフが与えられた場合、入力グラフから可変部分グラフを明示的に抽出し、ローカル環境におけるプロキシ予測を生成する。 次に,グローバル環境を階層的に再生するサブグラフを再抽出するために,確率的注意機構を用いる。 さらに,異なる階層間の一貫性を維持しつつ,同一階層内の環境の多様性を学習するためのモデルを提案する。 このアプローチにより,我々のモデルは環境間の関係を考慮し,頑健なグラフ不変学習を容易にする。 実世界のグラフデータに関する大規模な実験は、我々のフレームワークの有効性を実証した。 特に、挑戦的なデータセットであるTarmOODでは、IC50とEC50の予測タスクの最良のベースラインに対して、最大1.29%と2.83%の改善が達成されている。

関連論文リスト

• Improving Graph Out-of-distribution Generalization on Real-world Data [25.328653597674197]
  本稿では,環境-ラベル依存性と可変理性不変性の定理について述べる。 分析研究に基づき, 実世界データ上でのOODグラフの確率依存性と合理性」という, 変分推論に基づく新しい手法を紹介した。
  論文  参考訳（メタデータ） (2024-07-14T13:48:25Z)
• IENE: Identifying and Extrapolating the Node Environment for Out-of-Distribution Generalization on Graphs [10.087216264788097]
  ノードレベルの環境識別と外挿技術に基づくグラフのOOD一般化手法であるIENEを提案する。 モデルが2つの粒度から不変性を同時に抽出する能力を強化し、一般化が向上する。
  論文  参考訳（メタデータ） (2024-06-02T14:43:56Z)
• Graph Out-of-Distribution Generalization via Causal Intervention [74.77883794668324]
  本稿では,ノードレベルの分散シフトの下で頑健なグラフニューラルネットワーク(GNN)をトレーニングするための,概念的に単純だが原則化されたアプローチを提案する。 本手法は,環境推定器と熟練GNN予測器を協調する因果推論に基づく新たな学習目標を提案する。 本モデルでは,様々な分散シフトによる一般化を効果的に向上し,グラフOOD一般化ベンチマーク上での最先端の精度を最大27.4%向上させることができる。
  論文  参考訳（メタデータ） (2024-02-18T07:49:22Z)
• Graph Invariant Learning with Subgraph Co-mixup for Out-Of-Distribution Generalization [51.913685334368104]
  本稿では,変分パターンと変分パターンの混合戦略に基づく新しいグラフ不変学習手法を提案する。 本手法は, 各種分布シフト下での最先端性能を著しく向上させる。
  論文  参考訳（メタデータ） (2023-12-18T07:26:56Z)
• Environment-Aware Dynamic Graph Learning for Out-of-Distribution Generalization [41.58330883016538]
  本研究では,環境学習の観点から,動的グラフのアウト・オブ・ディストリビューション(OOD)一般化について検討する。 本稿では,複雑な環境をモデル化し,新しいグラフ時間変動パターンを利用するOOD一般化のための環境対応動的グラフ学習(EAGLE)フレームワークを提案する。 我々の知る限りでは、環境学習の観点から動的グラフのOOD一般化を初めて研究する。
  論文  参考訳（メタデータ） (2023-11-18T16:31:10Z)
• Graph Out-of-Distribution Generalization with Controllable Data Augmentation [51.17476258673232]
  グラフニューラルネットワーク(GNN)は,グラフ特性の分類において異常な性能を示した。 トレーニングとテストデータの選択バイアスが原因で、分散偏差が広まっています。 仮想サンプルの分布偏差を測定するためのOODキャリブレーションを提案する。
  論文  参考訳（メタデータ） (2023-08-16T13:10:27Z)
• Optimal Propagation for Graph Neural Networks [51.08426265813481]
  最適グラフ構造を学習するための二段階最適化手法を提案する。 また、時間的複雑さをさらに軽減するために、低ランク近似モデルについても検討する。
  論文  参考訳（メタデータ） (2022-05-06T03:37:00Z)
• Handling Distribution Shifts on Graphs: An Invariance Perspective [77.14319095965058]
  グラフ上のノードレベルの予測にOOD問題を定式化する。 そこで我々は,探索から抽出までのリスク最小化という新たなドメイン不変学習手法を開発した。 理論的に有効なOOD解の保証を示すことによって,本手法の有効性を実証する。
  論文  参考訳（メタデータ） (2022-02-05T02:31:01Z)
• A Robust and Generalized Framework for Adversarial Graph Embedding [73.37228022428663]
  本稿では,AGE という逆グラフ埋め込みのための頑健なフレームワークを提案する。 AGEは、暗黙の分布から強化された負のサンプルとして偽の隣接ノードを生成する。 本フレームワークでは,3種類のグラフデータを扱う3つのモデルを提案する。
  論文  参考訳（メタデータ） (2021-05-22T07:05:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。