論文の概要: GALA: Graph Diffusion-based Alignment with Jigsaw for Source-free Domain Adaptation
- arxiv url: http://arxiv.org/abs/2410.16606v1
- Date: Tue, 22 Oct 2024 01:32:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-10-23 14:29:57.427284
- Title: GALA: Graph Diffusion-based Alignment with Jigsaw for Source-free Domain Adaptation
- Title(参考訳): GALA: ソースフリードメイン適応のためのJigsawによるグラフ拡散ベースのアライメント
- Authors: Junyu Luo, Yiyang Gu, Xiao Luo, Wei Ju, Zhiping Xiao, Yusheng Zhao, Jingyang Yuan, Ming Zhang,
- Abstract要約: ソースコードのないドメイン適応は、現実世界で多くのアプリケーションを含むため、重要な機械学習トピックである。
最近のグラフニューラルネットワーク(GNN)アプローチは、ドメインシフトとラベルの不足により、パフォーマンスが著しく低下する可能性がある。
本稿では, ソースフリーなグラフドメイン適応に適した Jigsaw (GALA) を用いたグラフ拡散に基づくアライメント法を提案する。
- 参考スコア(独自算出の注目度): 13.317620250521124
- License:
- Abstract: Source-free domain adaptation is a crucial machine learning topic, as it contains numerous applications in the real world, particularly with respect to data privacy. Existing approaches predominantly focus on Euclidean data, such as images and videos, while the exploration of non-Euclidean graph data remains scarce. Recent graph neural network (GNN) approaches can suffer from serious performance decline due to domain shift and label scarcity in source-free adaptation scenarios. In this study, we propose a novel method named Graph Diffusion-based Alignment with Jigsaw (GALA), tailored for source-free graph domain adaptation. To achieve domain alignment, GALA employs a graph diffusion model to reconstruct source-style graphs from target data. Specifically, a score-based graph diffusion model is trained using source graphs to learn the generative source styles. Then, we introduce perturbations to target graphs via a stochastic differential equation instead of sampling from a prior, followed by the reverse process to reconstruct source-style graphs. We feed the source-style graphs into an off-the-shelf GNN and introduce class-specific thresholds with curriculum learning, which can generate accurate and unbiased pseudo-labels for target graphs. Moreover, we develop a simple yet effective graph-mixing strategy named graph jigsaw to combine confident graphs and unconfident graphs, which can enhance generalization capabilities and robustness via consistency learning. Extensive experiments on benchmark datasets validate the effectiveness of GALA.
- Abstract(参考訳): ソースのないドメイン適応は、特にデータのプライバシに関して、現実世界で多くのアプリケーションを含むため、重要な機械学習トピックである。
既存のアプローチは主に画像やビデオなどのユークリッドデータに焦点を当てているが、非ユークリッドグラフデータの探索は依然として少ない。
最近のグラフニューラルネットワーク(GNN)アプローチは、ソースフリー適応シナリオにおけるドメインシフトとラベル不足により、パフォーマンスが著しく低下する可能性がある。
本研究では,ソースフリーなグラフドメイン適応に適したグラフ拡散型アライメント(GALA)を提案する。
ドメインアライメントを実現するため、GALAはターゲットデータからソーススタイルのグラフを再構成するグラフ拡散モデルを採用している。
具体的には、ソースグラフを用いてスコアベースのグラフ拡散モデルを訓練し、生成ソーススタイルを学習する。
そこで我々は,前者からのサンプリングではなく,確率微分方程式を用いて対象グラフに摂動を導入し,次にソーススタイルのグラフを再構成する逆過程を示す。
我々は、ソーススタイルのグラフを既成のGNNに入力し、カリキュラム学習でクラス固有のしきい値を導入し、ターゲットグラフに対して正確で偏りのない擬似ラベルを生成する。
さらに,グラフジグソー(Graph jigsaw)という単純なグラフ混合戦略を開発し,信頼度の高いグラフと信頼できないグラフを組み合わせることにより,一貫性学習による一般化能力と堅牢性を向上する。
ベンチマークデータセットの大規模な実験は、GALAの有効性を検証する。
関連論文リスト
- Rank and Align: Towards Effective Source-free Graph Domain Adaptation [16.941755478093153]
グラフニューラルネットワーク(GNN)は、グラフ領域適応において素晴らしいパフォーマンスを達成した。
しかし、プライバシやストレージ上の懸念から、大規模なソースグラフは現実のシナリオでは利用できない可能性がある。
そこで我々は,Range and Align (RNA)と呼ばれる新しいGNNベースのアプローチを導入し,ロバストセマンティクス学習のためのスペクトルセレーションとグラフ類似性をランク付けする。
論文 参考訳(メタデータ) (2024-08-22T08:00:50Z) - Can Modifying Data Address Graph Domain Adaptation? [20.343259091425708]
Unsupervised Graph Domain Adaptation (UGDA)は、ラベル付きソースグラフからラベル付きターゲットグラフへの知識伝達を容易にすることを目的としている。
小さいが転送可能なグラフを生成する新しいUGDA法であるGraphAlignを提案する。
古典的な経験的リスク最小化(ERM)を備えた新しいグラフ上で、GNNのみをトレーニングすることにより、GraphAlignは、ターゲットグラフ上での例外的なパフォーマンスを実現する。
論文 参考訳(メタデータ) (2024-07-27T17:56:31Z) - GraphAlign: Pretraining One Graph Neural Network on Multiple Graphs via Feature Alignment [30.56443056293688]
グラフ自己教師型学習(SSL)は、グラフ構造化データによるマイニングと学習をかなり約束する。
本研究では,グラフニューラルネットワーク(GNN)を,豊富なノード特徴を持つグラフのコレクションにプリトレーニングすることを目的としている。
本稿では,既存のグラフSSLフレームワークにシームレスに統合可能な汎用GraphAlign法を提案する。
論文 参考訳(メタデータ) (2024-06-05T05:22:32Z) - Model Inversion Attacks against Graph Neural Networks [65.35955643325038]
グラフニューラルネットワーク(GNN)に対するモデル反転攻撃について検討する。
本稿では,プライベートトレーニンググラフデータを推測するためにGraphMIを提案する。
実験の結果,このような防御効果は十分ではないことが示され,プライバシー攻撃に対するより高度な防御が求められている。
論文 参考訳(メタデータ) (2022-09-16T09:13:43Z) - Similarity-aware Positive Instance Sampling for Graph Contrastive
Pre-training [82.68805025636165]
トレーニングセット内の既存グラフから直接正のグラフインスタンスを選択することを提案する。
私たちの選択は、特定のドメイン固有のペアワイズ類似度測定に基づいています。
さらに,ノードを動的にマスキングしてグラフ上に均等に分配する適応ノードレベルの事前学習手法を開発した。
論文 参考訳(メタデータ) (2022-06-23T20:12:51Z) - Optimal Propagation for Graph Neural Networks [51.08426265813481]
最適グラフ構造を学習するための二段階最適化手法を提案する。
また、時間的複雑さをさらに軽減するために、低ランク近似モデルについても検討する。
論文 参考訳(メタデータ) (2022-05-06T03:37:00Z) - Towards Unsupervised Deep Graph Structure Learning [67.58720734177325]
本稿では,学習したグラフトポロジを外部ガイダンスなしでデータ自身で最適化する,教師なしグラフ構造学習パラダイムを提案する。
具体的には、元のデータから"アンカーグラフ"として学習目標を生成し、対照的な損失を用いてアンカーグラフと学習グラフとの一致を最大化する。
論文 参考訳(メタデータ) (2022-01-17T11:57:29Z) - Source Free Unsupervised Graph Domain Adaptation [60.901775859601685]
Unsupervised Graph Domain Adaptation (UGDA) はノード分類のラベル付けコストを削減するための実用的価値を示している。
既存のUGDAメソッドの多くは、ソースドメインのラベル付きグラフに大きく依存している。
現実のシナリオでは、ソースグラフはプライバシーの問題のためにアクセスできない。
我々は、Source Free Unsupervised Graph Domain Adaptation (SFUGDA) という新しいシナリオを提案する。
論文 参考訳(メタデータ) (2021-12-02T03:18:18Z) - GraphMI: Extracting Private Graph Data from Graph Neural Networks [59.05178231559796]
GNNを反転させてトレーニンググラフのプライベートグラフデータを抽出することを目的とした textbfGraph textbfModel textbfInversion attack (GraphMI) を提案する。
具体的には,グラフ特徴の空間性と滑らかさを保ちながら,グラフエッジの離散性に対処する勾配モジュールを提案する。
エッジ推論のためのグラフトポロジ、ノード属性、ターゲットモデルパラメータを効率的に活用するグラフ自動エンコーダモジュールを設計する。
論文 参考訳(メタデータ) (2021-06-05T07:07:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。