論文の概要: Matcha: Mitigating Graph Structure Shifts with Test-Time Adaptation
- arxiv url: http://arxiv.org/abs/2410.06976v2
- Date: Wed, 12 Feb 2025 18:27:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-13 13:45:48.430025
- Title: Matcha: Mitigating Graph Structure Shifts with Test-Time Adaptation
- Title（参考訳）: Matcha: テスト時間適応によるグラフ構造シフトの緩和
- Authors: Wenxuan Bao, Zhichen Zeng, Zhining Liu, Hanghang Tong, Jingrui He,
- Abstract要約: テスト時間適応(TTA)は、ソースドメインに再アクセスすることなく、トレーニング済みのモデルをターゲットドメインに適応できる能力によって注目を集めている。
グラフの構造シフトへの効果的かつ効率的な適応を目的とした,革新的なフレームワークであるMatchaを提案する。
合成と実世界の両方のデータセットに対するMatchaの有効性を検証し、構造と属性シフトの様々な組み合わせにおける頑健さを実証した。
- 参考スコア（独自算出の注目度）: 66.40525136929398
- License:
- Abstract: Powerful as they are, graph neural networks (GNNs) are known to be vulnerable to distribution shifts. Recently, test-time adaptation (TTA) has attracted attention due to its ability to adapt a pre-trained model to a target domain, without re-accessing the source domain. However, existing TTA algorithms are primarily designed for attribute shifts in vision tasks, where samples are independent. These methods perform poorly on graph data that experience structure shifts, where node connectivity differs between source and target graphs. We attribute this performance gap to the distinct impact of node attribute shifts versus graph structure shifts: the latter significantly degrades the quality of node representations and blurs the boundaries between different node categories. To address structure shifts in graphs, we propose Matcha, an innovative framework designed for effective and efficient adaptation to structure shifts by adjusting the htop-aggregation parameters in GNNs. To enhance the representation quality, we design a prediction-informed clustering loss to encourage the formation of distinct clusters for different node categories. Additionally, Matcha seamlessly integrates with existing TTA algorithms, allowing it to handle attribute shifts effectively while improving overall performance under combined structure and attribute shifts. We validate the effectiveness of Matcha on both synthetic and real-world datasets, demonstrating its robustness across various combinations of structure and attribute shifts. Our code is available at https://github.com/baowenxuan/Matcha .
- Abstract（参考訳）: 強力なグラフニューラルネットワーク(GNN)は、分散シフトに対して脆弱であることが知られている。
近年、テスト時間適応(TTA)が注目されているのは、ソースドメインに再アクセスすることなく、事前学習されたモデルをターゲットドメインに適応できるためである。
しかし、既存のTTAアルゴリズムは主に、サンプルが独立している視覚タスクの属性シフトのために設計されている。
これらの手法は、ソースグラフとターゲットグラフのノード接続が異なる構造シフトを経験するグラフデータにおいて、性能が良くない。
後者はノード表現の質を著しく低下させ、異なるノードカテゴリの境界を曖昧にします。
グラフにおける構造変化に対処するために,GNNにおけるhtop-aggregationパラメータを調整することで,構造変化への効果的かつ効率的な適応を図った,革新的フレームワークであるMatchaを提案する。
表現の質を高めるために,異なるノードカテゴリに対する異なるクラスタの形成を促進するために,予測インフォームドクラスタリング損失を設計する。
さらにMatchaは既存のTTAアルゴリズムとシームレスに統合され、属性シフトを効果的に処理できると同時に、構造と属性シフトの組み合わせによる全体的なパフォーマンスも向上する。
合成と実世界の両方のデータセットにおけるMatchaの有効性を検証し、構造と属性シフトの様々な組み合わせにおける頑健さを実証する。
私たちのコードはhttps://github.com/baowenxuan/Matchaで利用可能です。
関連論文リスト
- A Pure Transformer Pretraining Framework on Text-attributed Graphs [50.833130854272774]
グラフ構造を先行として扱うことで,特徴中心の事前学習の視点を導入する。
我々のフレームワークであるGraph Sequence Pretraining with Transformer (GSPT)はランダムウォークを通してノードコンテキストをサンプリングする。
GSPTはノード分類とリンク予測の両方に容易に適応でき、様々なデータセットで有望な経験的成功を示す。
論文 参考訳（メタデータ） (2024-06-19T22:30:08Z) - AGHINT: Attribute-Guided Representation Learning on Heterogeneous Information Networks with Transformer [4.01252998015631]
本稿では,ノード間特性の相違がベンチマークタスクにおけるHGNNの性能に与える影響について検討する。
我々はTransformer (AGHINT) を用いたAttribute-Guidous Information Networks表現学習モデルを提案する。
AGHINTは、学習プロセスに高次の類似した特徴を直接統合することで、元のグラフ構造の制約を超越する。
論文 参考訳（メタデータ） (2024-04-16T10:30:48Z) - DGNN: Decoupled Graph Neural Networks with Structural Consistency
between Attribute and Graph Embedding Representations [62.04558318166396]
グラフニューラルネットワーク(GNN)は、複雑な構造を持つグラフ上での表現学習の堅牢性を示す。
ノードのより包括的な埋め込み表現を得るために、Decoupled Graph Neural Networks (DGNN)と呼ばれる新しいGNNフレームワークが導入された。
複数のグラフベンチマークデータセットを用いて、ノード分類タスクにおけるDGNNの優位性を検証した。
論文 参考訳（メタデータ） (2024-01-28T06:43:13Z) - Degree-based stratification of nodes in Graph Neural Networks [66.17149106033126]
グラフニューラルネットワーク(GNN)アーキテクチャを変更して,各グループのノードに対して,重み行列を個別に学習する。
このシンプルな実装変更により、データセットとGNNメソッドのパフォーマンスが改善されているようだ。
論文 参考訳（メタデータ） (2023-12-16T14:09:23Z) - T-GAE: Transferable Graph Autoencoder for Network Alignment [79.89704126746204]
T-GAEはグラフオートエンコーダフレームワークで、GNNの転送性と安定性を活用して、再トレーニングなしに効率的なネットワークアライメントを実現する。
実験の結果、T-GAEは最先端の最適化手法と最高のGNN手法を最大38.7%、50.8%で上回っていることがわかった。
論文 参考訳（メタデータ） (2023-10-05T02:58:29Z) - Structural Re-weighting Improves Graph Domain Adaptation [13.019371337183202]
本研究は,グラフ構造やノード属性による分散シフトの影響について検討する。
構造再重み付け(StruRW)と呼ばれる新しい手法がこの問題に対処するために提案され、合成グラフ、ベンチマークデータセット4つ、高エネルギー物理学における新しい応用についてテストされている。
論文 参考訳（メタデータ） (2023-06-05T20:11:30Z) - Graph Ordering Attention Networks [22.468776559433614]
グラフニューラルネットワーク(GNN)は、グラフ構造化データに関わる多くの問題でうまく使われている。
近隣ノード間のインタラクションをキャプチャする新しいGNNコンポーネントであるグラフ順序付け注意層(GOAT)を導入する。
GOATレイヤは、複雑な情報をキャプチャするグラフメトリクスのモデリングにおけるパフォーマンスの向上を示す。
論文 参考訳（メタデータ） (2022-04-11T18:13:19Z) - Breaking the Limit of Graph Neural Networks by Improving the
Assortativity of Graphs with Local Mixing Patterns [19.346133577539394]
グラフニューラルネットワーク(GNN)は、複数のグラフベースの学習タスクで大きな成功を収めています。
入力グラフを近接情報と構造情報の両方を含む計算グラフに変換することに集中する。
構造と近接度を適応的に選択することで,様々な混合条件下での性能が向上することを示す。
論文 参考訳（メタデータ） (2021-06-11T19:18:34Z) - Variational Co-embedding Learning for Attributed Network Clustering [30.7006907516984]
属性ネットワーククラスタリングの最近の研究は、グラフ畳み込みを利用してノード埋め込みを取得し、同時に埋め込み空間上でクラスタリング割り当てを行う。
属性ネットワーククラスタリング(ANC)のための分散共埋め込み学習モデルを提案する。
ANCは、ノードと属性を同時に埋め込む2つの変分自動エンコーダで構成されている。
論文 参考訳（メタデータ） (2021-04-15T08:11:47Z) - Node Similarity Preserving Graph Convolutional Networks [51.520749924844054]
グラフニューラルネットワーク(GNN)は、ノード近傍の情報を集約し変換することで、グラフ構造とノードの特徴を探索する。
グラフ構造を利用してノード類似性を効果的かつ効率的に保存できるSimP-GCNを提案する。
本研究は,SimP-GCNが3つの分類グラフと4つの非補助グラフを含む7つのベンチマークデータセットに対して有効であることを示す。
論文 参考訳（メタデータ） (2020-11-19T04:18:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。