論文の概要: LOHA: Direct Graph Spectral Contrastive Learning Between Low-pass and High-pass Views

• arxiv url: http://arxiv.org/abs/2501.02969v1
• Date: Mon, 06 Jan 2025 12:25:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-07 17:06:31.241123
• Title: LOHA: Direct Graph Spectral Contrastive Learning Between Low-pass and High-pass Views
• Title（参考訳）: LOHA:ローパスとハイパスの直接グラフスペクトルコントラスト学習
• Authors: Ziyun Zou, Yinghui Jiang, Lian Shen, Juan Liu, Xiangrong Liu,
• Abstract要約: スペクトルグラフニューラルネットワークは,低域フィルタマイニング特性のスムーズさと高域フィルタキャプチャ特性の相違により,相同レベルのグラフを効果的に処理する。 異なるフィルタが自然に自己教師付き学習の2つの反対の視点を形成する場合、同一ノードの共通性は未探索のままである。 本稿では、このギャップに対処するために、単純で効果的な自己監督型コントラストフレームワークLOHAを提案する。
• 参考スコア（独自算出の注目度）: 3.0930990296129828
• License:
• Abstract: Spectral Graph Neural Networks effectively handle graphs with different homophily levels, with low-pass filter mining feature smoothness and high-pass filter capturing differences. When these distinct filters could naturally form two opposite views for self-supervised learning, the commonalities between the counterparts for the same node remain unexplored, leading to suboptimal performance. In this paper, a simple yet effective self-supervised contrastive framework, LOHA, is proposed to address this gap. LOHA optimally leverages low-pass and high-pass views by embracing "harmony in diversity". Rather than solely maximizing the difference between these distinct views, which may lead to feature separation, LOHA harmonizes the diversity by treating the propagation of graph signals from both views as a composite feature. Specifically, a novel high-dimensional feature named spectral signal trend is proposed to serve as the basis for the composite feature, which remains relatively unaffected by changing filters and focuses solely on original feature differences. LOHA achieves an average performance improvement of 2.8% over runner-up models on 9 real-world datasets with varying homophily levels. Notably, LOHA even surpasses fully-supervised models on several datasets, which underscores the potential of LOHA in advancing the efficacy of spectral GNNs for diverse graph structures.
• Abstract（参考訳）: スペクトルグラフニューラルネットワークは,低域フィルタマイニング特性のスムーズさと高域フィルタキャプチャ特性の相違により,相同レベルのグラフを効果的に処理する。 これらの異なるフィルタが自然に自己教師付き学習の2つの反対の視点を形成することができると、同一ノード間の共通性は未探索のままであり、最適以下の性能をもたらす。 本稿では、このギャップに対処するために、単純で効果的な自己監督型コントラストフレームワークLOHAを提案する。 LOHAは「多様性のハーモニー」を受け入れることで、低域と高域の視点を最適に活用する。 LOHAは、これらの異なるビューの差を最大化するだけでなく、両方のビューからのグラフ信号の伝搬を複合的な特徴として扱うことで多様性を調和させる。 具体的には、スペクトル信号トレンドと呼ばれる新しい高次元特徴を合成特徴の基礎として提案するが、これはフィルタの変更による影響が比較的小さく、元の特徴差にのみ焦点を絞っている。 LOHAは、様々なホモフィリーレベルを持つ9つの実世界のデータセット上で、ランナーアップモデルよりも平均2.8%の性能向上を達成する。 特に、LOHAは複数のデータセットの完全な教師付きモデルを超えており、多様なグラフ構造に対するスペクトルGNNの有効性を推し進めるLOHAの可能性を示している。

関連論文リスト

• Dual-Frequency Filtering Self-aware Graph Neural Networks for Homophilic and Heterophilic Graphs [60.82508765185161]
  我々は、Dual-Frequency Filtering Self-Aware Graph Neural Networks (DFGNN)を提案する。 DFGNNは低域通過フィルタと高域通過フィルタを統合し、滑らかで詳細な位相的特徴を抽出する。 フィルター比を動的に調整し、ホモフィルグラフとヘテロフィルグラフの両方に対応する。
  論文  参考訳（メタデータ） (2024-11-18T04:57:05Z)
• LAMP: Learnable Meta-Path Guided Adversarial Contrastive Learning for Heterogeneous Graphs [22.322402072526927]
  Heterogeneous Graph Contrastive Learning (HGCL)は通常、事前に定義されたメタパスを必要とする。 textsfLAMPは様々なメタパスのサブグラフを統一的で安定した構造に統合する。 textsfLAMPは、精度と堅牢性の観点から、既存の最先端の教師なしモデルよりも大幅に優れています。
  論文  参考訳（メタデータ） (2024-09-10T08:27:39Z)
• Node-wise Filtering in Graph Neural Networks: A Mixture of Experts Approach [58.8524608686851]
  グラフニューラルネットワーク(GNN)は、多様なグラフ構造パターンをまたいだノード分類タスクに非常に効果的であることが証明されている。 伝統的に、GNNは均一なグローバルフィルタ(通常、ホモフィルグラフのローパスフィルタとヘテロフィルグラフのハイパスフィルタ)を用いる。 我々は,異なるノードに対する適切なフィルタを適応的に選択するために,専門家の混在を利用した新しいGNNフレームワークNode-MoEを紹介する。
  論文  参考訳（メタデータ） (2024-06-05T17:12:38Z)
• GPatcher: A Simple and Adaptive MLP Model for Alleviating Graph Heterophily [15.93465948768545]
  グラフニューラルネットワーク(GNN)フィルタにおけるグラフヘテロフィリーの影響を解明する。 我々は,パッチ・ミクサーアーキテクチャを利用したGPatcherというシンプルで強力なGNNを提案する。 本モデルでは, ノード分類において, 人気ホモフィリーGNNや最先端ヘテロフィリーGNNと比較して, 優れた性能を示す。
  論文  参考訳（メタデータ） (2023-06-25T20:57:35Z)
• Single-Pass Contrastive Learning Can Work for Both Homophilic and Heterophilic Graph [60.28340453547902]
  グラフコントラッシブ・ラーニング(GCL)技術は通常、コントラッシブ・ロスを構築するために単一のインスタンスに対して2つのフォワードパスを必要とする。 既存のGCLアプローチは、強力なパフォーマンス保証を提供していない。 我々はSingle-Pass Graph Contrastive Learning法(SP-GCL)を実装した。 経験的に、SP-GCLが学んだ機能は、計算オーバーヘッドを著しく少なくして、既存の強いベースラインにマッチまたは性能を向上することができる。
  論文  参考訳（メタデータ） (2022-11-20T07:18:56Z)
• Optimal Propagation for Graph Neural Networks [51.08426265813481]
  最適グラフ構造を学習するための二段階最適化手法を提案する。 また、時間的複雑さをさらに軽減するために、低ランク近似モデルについても検討する。
  論文  参考訳（メタデータ） (2022-05-06T03:37:00Z)
• Quasi-Framelets: Robust Graph Neural Networks via Adaptive Framelet Convolution [28.474359021962346]
  スペクトルグラフニューラルネットワーク(GNN)のためのマルチスケールフレームレット畳み込みを提案する。 提案設計は、不要なスペクトル情報をフィルタリングし、ノイズグラフ信号の悪影響を著しく低減する。 ノイズの多いデータや敵攻撃に対する優れたレジリエンスを示しており、現実世界のグラフアプリケーションに対する堅牢なソリューションとしての可能性を強調している。
  論文  参考訳（メタデータ） (2022-01-11T00:10:28Z)
• Message Passing in Graph Convolution Networks via Adaptive Filter Banks [81.12823274576274]
  我々は BankGCN と呼ばれる新しいグラフ畳み込み演算子を提案する。 グラフ上のマルチチャネル信号をサブスペースに分解し、各サブスペース内の特定の情報を適応フィルタで処理する。 ベンチマークグラフデータセットの集合におけるグラフ分類における優れたパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2021-06-18T04:23:34Z)
• Graph Neural Networks with Adaptive Frequency Response Filter [55.626174910206046]
  適応周波数応答フィルタを用いたグラフニューラルネットワークフレームワークAdaGNNを開発した。 提案手法の有効性を,様々なベンチマークデータセット上で実証的に検証した。
  論文  参考訳（メタデータ） (2021-04-26T19:31:21Z)
• Beyond Low-Pass Filters: Adaptive Feature Propagation on Graphs [6.018995094882323]
  グラフニューラルネットワーク(GNN)は、グラフ上の予測タスクのために広く研究されている。 ほとんどのGNNは、局所的ホモフィリー、すなわち地域住民の強い類似性を仮定している。 基本となるホモフィリーによって制限されることなく、任意のグラフを扱うことができる柔軟なGNNモデルを提案する。
  論文  参考訳（メタデータ） (2021-03-26T00:35:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。