論文の概要: Cooperative Classification and Rationalization for Graph Generalization

• arxiv url: http://arxiv.org/abs/2403.06239v1
• Date: Sun, 10 Mar 2024 15:38:20 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-13 07:10:23.575845
• Title: Cooperative Classification and Rationalization for Graph Generalization
• Title（参考訳）: グラフ一般化のための協調分類と合理化
• Authors: Linan Yue, Qi Liu, Ye Liu, Weibo Gao, Fangzhou Yao, Wenfeng Li
• Abstract要約: 本稿では,分類モジュールと合理化モジュールからなる協調分類・合理化手法を提案する。 本研究では,環境条件生成ネットワークを用いた多種多様な学習分布を導入し,頑健なグラフ表現を実現する。 最後に、非合理的表現を収集し、それらを協調学習のための分類モジュールに組み込むことにより、複数の環境を推論する。
• 参考スコア（独自算出の注目度）: 10.664756327958262
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Graph Neural Networks (GNNs) have achieved impressive results in graph classification tasks, but they struggle to generalize effectively when faced with out-of-distribution (OOD) data. Several approaches have been proposed to address this problem. Among them, one solution is to diversify training distributions in vanilla classification by modifying the data environment, yet accessing the environment information is complex. Besides, another promising approach involves rationalization, extracting invariant rationales for predictions. However, extracting rationales is difficult due to limited learning signals, resulting in less accurate rationales and diminished predictions. To address these challenges, in this paper, we propose a Cooperative Classification and Rationalization (C2R) method, consisting of the classification and the rationalization module. Specifically, we first assume that multiple environments are available in the classification module. Then, we introduce diverse training distributions using an environment-conditional generative network, enabling robust graph representations. Meanwhile, the rationalization module employs a separator to identify relevant rationale subgraphs while the remaining non-rationale subgraphs are de-correlated with labels. Next, we align graph representations from the classification module with rationale subgraph representations using the knowledge distillation methods, enhancing the learning signal for rationales. Finally, we infer multiple environments by gathering non-rationale representations and incorporate them into the classification module for cooperative learning. Extensive experimental results on both benchmarks and synthetic datasets demonstrate the effectiveness of C2R. Code is available at https://github.com/yuelinan/Codes-of-C2R.
• Abstract（参考訳）: グラフニューラルネットワーク(GNN)は、グラフ分類タスクにおいて印象的な結果を得たが、アウト・オブ・ディストリビューション(OOD)データに直面すると、効果的な一般化に苦慮している。 この問題に対処するいくつかのアプローチが提案されている。 その1つの解決策は、データ環境を変更してバニラ分類のトレーニング分布を多様化するが、環境情報へのアクセスは複雑である。 さらに、別の有望なアプローチは有理化を伴い、予測のための不変な有理を抽出する。 しかし、学習信号が限られているため、合理性抽出は困難であり、精度の低い合理性や予測の低下をもたらす。 本稿では,これらの課題に対処するために,分類と合理化モジュールからなる協調的分類・合理化(c2r)手法を提案する。 具体的には、まず、分類モジュールで複数の環境が利用できると仮定する。 次に,環境条件生成ネットワークを用いた多様な学習分布を導入し,頑健なグラフ表現を実現する。 一方、有理化モジュールは関連する有理化部分グラフを識別するために分離器を使用し、残りの非有理化部分グラフはラベルと非関連である。 次に,分類モジュールからのグラフ表現を知識蒸留法を用いて合理化サブグラフ表現と整合させ,合理化のための学習信号を強化した。 最後に,非合理表現を収集し,協調学習のための分類モジュールに組み込むことにより,複数の環境を推定する。 ベンチマークと合成データセットの両方の広範な実験結果がc2rの有効性を示している。 コードはhttps://github.com/yuelinan/Codes-of-C2Rで入手できる。

関連論文リスト

• Improving out-of-distribution generalization in graphs via hierarchical semantic environments [5.481047026874547]
  グラフ毎に階層的な環境を生成する新しい手法を提案する。 我々は、同じ階層内の環境の多様性を学ぶために、我々のモデルを導く新しい学習目標を導入する。 我々のフレームワークは、それぞれIC50とEC50予測タスクの最高のベースラインに対して、1.29%と2.83%の改善を実現しています。
  論文  参考訳（メタデータ） (2024-03-04T07:03:10Z)
• PAC Learnability under Explanation-Preserving Graph Perturbations [15.83659369727204]
  グラフニューラルネットワーク(GNN)はグラフ上で動作し、グラフ構造化データの複雑な関係と依存関係を活用する。 グラフ説明は、その分類ラベルに関して入力グラフの「ほぼ」統計量である部分グラフである。 本研究は、GNNの設計と訓練において、そのような摂動不変性を利用する2つの方法を検討する。
  論文  参考訳（メタデータ） (2024-02-07T17:23:15Z)
• Graph Out-of-Distribution Generalization with Controllable Data Augmentation [51.17476258673232]
  グラフニューラルネットワーク(GNN)は,グラフ特性の分類において異常な性能を示した。 トレーニングとテストデータの選択バイアスが原因で、分散偏差が広まっています。 仮想サンプルの分布偏差を測定するためのOODキャリブレーションを提案する。
  論文  参考訳（メタデータ） (2023-08-16T13:10:27Z)
• Few-Shot Non-Parametric Learning with Deep Latent Variable Model [50.746273235463754]
  遅延変数を用いた圧縮による非パラメトリック学習(NPC-LV)を提案する。 NPC-LVは、ラベルなしデータが多いがラベル付きデータはほとんどないデータセットの学習フレームワークである。 我々は,NPC-LVが低データ構造における画像分類における3つのデータセットの教師あり手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2022-06-23T09:35:03Z)
• Graph Rationalization with Environment-based Augmentations [17.733488328772943]
  Rationaleの識別により、視覚と言語データに対するニューラルネットワークの一般化性と解釈性が向上した。 既存のグラフプーリングおよび/または分配介入手法は、最適なグラフ論理を識別するサンプルの不足に悩まされる。 本稿では,仮想データの自動生成による有理性識別の改善を目的とした,環境代替と呼ばれる新たな拡張操作を提案する。
  論文  参考訳（メタデータ） (2022-06-06T20:23:30Z)
• Discovering Invariant Rationales for Graph Neural Networks [104.61908788639052]
  グラフニューラルネットワーク(GNN)の固有の解釈可能性とは、入力グラフの特徴の小さなサブセットを見つけることである。 本稿では,本質的に解釈可能なGNNを構築するために,不変理性(DIR)を発見するための新しい戦略を提案する。
  論文  参考訳（メタデータ） (2022-01-30T16:43:40Z)
• No Fear of Heterogeneity: Classifier Calibration for Federated Learning with Non-IID Data [78.69828864672978]
  実世界のフェデレーションシステムにおける分類モデルのトレーニングにおける中心的な課題は、非IIDデータによる学習である。 このアルゴリズムは, 近似されたssian混合モデルからサンプリングした仮想表現を用いて分類器を調整する。 実験の結果,CIFAR-10,CIFAR-100,CINIC-10など,一般的なフェデレーション学習ベンチマークにおけるCCVRの現状が示された。
  論文  参考訳（メタデータ） (2021-06-09T12:02:29Z)
• Structured Graph Learning for Clustering and Semi-supervised Classification [74.35376212789132]
  データの局所構造とグローバル構造の両方を保存するためのグラフ学習フレームワークを提案する。 本手法は, サンプルの自己表現性を利用して, 局所構造を尊重するために, 大域的構造と適応的隣接アプローチを捉える。 我々のモデルは、ある条件下でのカーネルk平均法とk平均法の組合せと等価である。
  論文  参考訳（メタデータ） (2020-08-31T08:41:20Z)
• Solving Long-tailed Recognition with Deep Realistic Taxonomic Classifier [68.38233199030908]
  ロングテール認識は、現実世界のシナリオにおける自然な非一様分散データに取り組む。 モダンは人口密度の高いクラスではうまく機能するが、そのパフォーマンスはテールクラスでは著しく低下する。 Deep-RTCは、リアリズムと階層的予測を組み合わせたロングテール問題の新しい解法として提案されている。
  論文  参考訳（メタデータ） (2020-07-20T05:57:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。