論文の概要: Zero-shot Domain Adaptation of Heterogeneous Graphs via Knowledge
Transfer Networks
- arxiv url: http://arxiv.org/abs/2203.02018v1
- Date: Thu, 3 Mar 2022 21:00:23 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-08 02:53:22.054873
- Title: Zero-shot Domain Adaptation of Heterogeneous Graphs via Knowledge
Transfer Networks
- Title(参考訳): 知識伝達ネットワークによる不均一グラフのゼロショット領域適応
- Authors: Minji Yoon, John Palowitch, Dustin Zelle, Ziniu Hu, Ruslan
Salakhutdinov, Bryan Perozzi
- Abstract要約: ヘテロジニアスグラフニューラルネットワーク(HGNN)は、強力な表現学習技術として優れた性能を示している。
異なるノードタイプにルートされたラベルを使って直接学習する方法はありません。
本研究では,HGNN(HGNN-KTN)のための新しいドメイン適応手法である知識伝達ネットワークを提案する。
- 参考スコア(独自算出の注目度): 72.82524864001691
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: How can we make predictions for nodes in a heterogeneous graph when an entire
type of node (e.g. user) has no labels (perhaps due to privacy issues) at all?
Although heterogeneous graph neural networks (HGNNs) have shown superior
performance as powerful representation learning techniques, there is no direct
way to learn using labels rooted at different node types. Domain adaptation
(DA) targets this setting, however, existing DA can not be applied directly to
HGNNs. In heterogeneous graphs, the source and target domains have different
modalities, thus HGNNs provide different feature extractors to them, while most
of DA assumes source and target domains share a common feature extractor. In
this work, we address the issue of zero-shot domain adaptation in HGNNs. We
first theoretically induce a relationship between source and target domain
features extracted from HGNNs, then propose a novel domain adaptation method,
Knowledge Transfer Networks for HGNNs (HGNN-KTN). HGNN-KTN learns the
relationship between source and target features, then maps the target
distributions into the source domain. HGNN-KTN outperforms state-of-the-art
baselines, showing up to 73.3% higher in MRR on 18 different domain adaptation
tasks running on real-world benchmark graphs.
- Abstract(参考訳): ノードのタイプ全体(例えばユーザ)にラベルがない場合(おそらくはプライバシの問題のため)、どのようにして異種グラフ内のノードを予測できますか?
ヘテロジニアスグラフニューラルネットワーク(HGNN)は、強力な表現学習技術として優れた性能を示しているが、異なるノードタイプに根付いたラベルを使って直接学習する方法はない。
ドメイン適応(DA)はこの設定をターゲットとしているが、既存のDAはHGNNに直接適用することはできない。
ヘテロジニアスグラフでは、ソースドメインとターゲットドメインは異なるモダリティを持つため、HGNNは異なる特徴抽出器を提供するが、DAの大半はソースドメインとターゲットドメインが共通の特徴抽出器を共有すると仮定する。
本研究では,HGNNにおけるゼロショット領域適応の問題に対処する。
まず,HGNNから抽出した音源と対象領域の特徴の関係を理論的に推論し,HGNNの知識伝達ネットワーク(HGNN-KTN)を提案する。
HGNN-KTNは、ソースとターゲットの特徴の関係を学習し、ターゲットの分布をソースドメインにマップする。
HGNN-KTNは最先端のベースラインを上回り、現実世界のベンチマークグラフ上で実行される18の異なるドメイン適応タスクに対して最大73.3%のMRRを示した。
関連論文リスト
- GraphLoRA: Structure-Aware Contrastive Low-Rank Adaptation for Cross-Graph Transfer Learning [17.85404473268992]
グラフニューラルネットワーク(GNN)は、様々なグラフ解析タスクを扱うのに顕著な習熟度を示した。
汎用性にもかかわらず、GNNはトランスファービリティにおいて重大な課題に直面し、現実のアプリケーションでの利用を制限している。
グラフ領域によく訓練されたGNNを転送するための有効かつパラメータ効率のよいGraphLoRAを提案する。
論文 参考訳(メタデータ) (2024-09-25T06:57:42Z) - SA-GDA: Spectral Augmentation for Graph Domain Adaptation [38.71041292000361]
グラフニューラルネットワーク(GNN)は、グラフ関連のタスクに対して印象的な成果を上げている。
本稿では、グラフノード分類のためのグラフドメイン適応のためのtextitSpectral Augmentation(method)を提案する。
特徴集約のための局所的および大域的一貫性を協調的に活用するデュアルグラフ畳み込みネットワークを開発した。
論文 参考訳(メタデータ) (2024-08-17T13:01:45Z) - Finding Diverse and Predictable Subgraphs for Graph Domain
Generalization [88.32356432272356]
本稿では,不明瞭な分布シフトにより性能が低下するグラフの分布外一般化に着目した。
本稿では,DPSと呼ばれる新しいグラフ領域の一般化フレームワークを提案する。
ノードレベルのベンチマークとグラフレベルのベンチマークの両方の実験により、提案したDPSはグラフ領域の一般化タスクにおいて印象的な性能を発揮することが示された。
論文 参考訳(メタデータ) (2022-06-19T07:57:56Z) - Source Free Unsupervised Graph Domain Adaptation [60.901775859601685]
Unsupervised Graph Domain Adaptation (UGDA) はノード分類のラベル付けコストを削減するための実用的価値を示している。
既存のUGDAメソッドの多くは、ソースドメインのラベル付きグラフに大きく依存している。
現実のシナリオでは、ソースグラフはプライバシーの問題のためにアクセスできない。
我々は、Source Free Unsupervised Graph Domain Adaptation (SFUGDA) という新しいシナリオを提案する。
論文 参考訳(メタデータ) (2021-12-02T03:18:18Z) - AdaGNN: A multi-modal latent representation meta-learner for GNNs based
on AdaBoosting [0.38073142980733]
グラフニューラルネットワーク(GNN)は、固有のネットワーク機能の抽出に重点を置いている。
GNNのための強化型メタラーナを提案する。
AdaGNNは、リッチで多様なノード近傍情報を持つアプリケーションに対して非常によく機能する。
論文 参考訳(メタデータ) (2021-08-14T03:07:26Z) - Identity-aware Graph Neural Networks [63.6952975763946]
グラフニューラルネットワーク(ID-GNN)を1-WLテストよりも表現力の高いメッセージクラスを開発しています。
ID-GNNは、メッセージパッシング中にノードのIDを誘導的に考慮することにより、既存のGNNアーキテクチャを拡張します。
既存のGNNをID-GNNに変換すると、挑戦ノード、エッジ、グラフプロパティ予測タスクの平均40%の精度が向上することを示す。
論文 参考訳(メタデータ) (2021-01-25T18:59:01Z) - Distance Encoding: Design Provably More Powerful Neural Networks for
Graph Representation Learning [63.97983530843762]
グラフニューラルネットワーク(GNN)はグラフ表現学習において大きな成功を収めている。
GNNは、実際には非常に異なるグラフ部分構造に対して同一の表現を生成する。
より強力なGNNは、最近高階試験を模倣して提案され、基礎となるグラフ構造を疎結合にできないため、非効率である。
本稿では,グラフ表現学習の新たなクラスとして距離分解(DE)を提案する。
論文 参考訳(メタデータ) (2020-08-31T23:15:40Z) - Towards Deeper Graph Neural Networks with Differentiable Group
Normalization [61.20639338417576]
グラフニューラルネットワーク(GNN)は、隣接するノードを集約することでノードの表現を学習する。
オーバースムーシングは、レイヤーの数が増えるにつれてGNNのパフォーマンスが制限される重要な問題のひとつです。
2つのオーバースムースなメトリクスと新しいテクニック、すなわち微分可能群正規化(DGN)を導入する。
論文 参考訳(メタデータ) (2020-06-12T07:18:02Z) - Generalization and Representational Limits of Graph Neural Networks [46.20253808402385]
ローカル情報に完全に依存するグラフニューラルネットワーク(GNN)では,いくつかの重要なグラフ特性を計算できないことを示す。
メッセージパッシングGNNに対する最初のデータ依存一般化境界を提供する。
私たちのバウンダリは、既存のVC次元ベースのGNN保証よりもはるかに厳格で、リカレントニューラルネットワークのRademacherバウンダリと同等です。
論文 参考訳(メタデータ) (2020-02-14T18:10:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。