論文の概要: Certifiably Robust Graph Contrastive Learning
- arxiv url: http://arxiv.org/abs/2310.03312v1
- Date: Thu, 5 Oct 2023 05:00:11 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-06 19:06:41.005141
- Title: Certifiably Robust Graph Contrastive Learning
- Title(参考訳): 頑健なグラフコントラスト学習
- Authors: Minhua Lin, Teng Xiao, Enyan Dai, Xiang Zhang, Suhang Wang
- Abstract要約: グラフコントラスト学習(GCL)における第1の堅牢なフレームワークを開発する。
まず,GCLのロバスト性を評価するための統一基準を提案する。
そこで我々は,任意のGCLモデルに対して確実なロバスト性を保証するため,新しい手法RES(Randomized Edgedrop Smoothing)を導入する。
- 参考スコア(独自算出の注目度): 43.029361784095016
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Graph Contrastive Learning (GCL) has emerged as a popular unsupervised graph
representation learning method. However, it has been shown that GCL is
vulnerable to adversarial attacks on both the graph structure and node
attributes. Although empirical approaches have been proposed to enhance the
robustness of GCL, the certifiable robustness of GCL is still remain
unexplored. In this paper, we develop the first certifiably robust framework in
GCL. Specifically, we first propose a unified criteria to evaluate and certify
the robustness of GCL. We then introduce a novel technique, RES (Randomized
Edgedrop Smoothing), to ensure certifiable robustness for any GCL model, and
this certified robustness can be provably preserved in downstream tasks.
Furthermore, an effective training method is proposed for robust GCL. Extensive
experiments on real-world datasets demonstrate the effectiveness of our
proposed method in providing effective certifiable robustness and enhancing the
robustness of any GCL model. The source code of RES is available at
https://github.com/ventr1c/RES-GCL.
- Abstract(参考訳): グラフコントラスト学習(GCL)は、教師なしグラフ表現学習法として人気がある。
しかし、GCLはグラフ構造とノード属性の両方に対する敵攻撃に対して脆弱であることが示されている。
GCLのロバスト性を高めるための実証的なアプローチが提案されているが、GCLの証明可能なロバスト性はまだ未解明のままである。
本稿では,GCLにおける最初の堅牢なフレームワークを開発する。
具体的には,まず,GCLの堅牢性を評価するための統一基準を提案する。
そこで我々は,任意のGCLモデルに対して証明可能なロバスト性を確保するための新しい手法RES(Randomized Edgedrop Smoothing)を導入する。
さらに,ロバストgclに対して効果的なトレーニング手法を提案する。
実世界のデータセットに対する大規模な実験により,提案手法の有効性を実証し, 有効な証明可能なロバスト性を提供し, 任意のGCLモデルのロバスト性を高める。
RESのソースコードはhttps://github.com/ventr1c/RES-GCLで公開されている。
関連論文リスト
- Graph-level Protein Representation Learning by Structure Knowledge
Refinement [50.775264276189695]
本稿では、教師なしの方法でグラフ全体の表現を学習することに焦点を当てる。
本稿では、データ構造を用いて、ペアが正か負かの確率を決定する構造知識精製(Structure Knowledge Refinement, SKR)という新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2024-01-05T09:05:33Z) - Rethinking and Simplifying Bootstrapped Graph Latents [48.76934123429186]
グラフ・コントラッシブ・ラーニング(GCL)はグラフ自己教師型ラーニングにおいて代表的なパラダイムとして登場した。
SGCLは2つの繰り返しの出力を正のペアとして利用するシンプルで効果的なGCLフレームワークである。
我々は,SGCLがより少ないパラメータ,少ない時間と空間コスト,およびかなりの収束速度で競合性能を達成可能であることを示す。
論文 参考訳(メタデータ) (2023-12-05T09:49:50Z) - On the Adversarial Robustness of Graph Contrastive Learning Methods [9.675856264585278]
本稿では,グラフコントラスト学習(GCL)モデルのロバスト性を評価するために,包括的評価ロバストネスプロトコルを提案する。
我々はこれらのモデルを,グラフ構造をターゲットとした適応的敵攻撃,特に回避シナリオに適用する。
本研究は,GCL手法の堅牢性に関する知見を提供することを目標とし,今後の研究方向の道を開くことを期待する。
論文 参考訳(メタデータ) (2023-11-29T17:59:18Z) - Architecture Matters: Uncovering Implicit Mechanisms in Graph
Contrastive Learning [34.566003077992384]
本稿では,グラフコントラスト学習法(GCL)の体系的研究について述べる。
GNNの暗黙的帰納バイアスが対照的な学習にどのように作用するかを明らかにすることによって、理論上はGCLの興味深い性質に関する洞察を提供する。
既存のNNメソッドを直接GCLに移植するのではなく、グラフ学習のユニークなアーキテクチャにもっと注意を払うことを提唱する。
論文 参考訳(メタデータ) (2023-11-05T15:54:17Z) - Homophily-Driven Sanitation View for Robust Graph Contrastive Learning [28.978770069310276]
構造化攻撃に対する教師なしグラフコントラスト学習(GCL)の対向的堅牢性について検討する。
本稿では, 相反学習と共同で学習可能な, ホモフィリ駆動型衛生観を統合した頑健なGCLフレームワークを提案する。
我々は,提案モデルであるGCHSの性能を評価するために,広範にわたる実験を行い,GCLに対する芸術的構造的攻撃の2つの状況について検討した。
論文 参考訳(メタデータ) (2023-07-24T06:41:59Z) - CSGCL: Community-Strength-Enhanced Graph Contrastive Learning [13.770188320382285]
本稿では,学習過程を通じてコミュニティの強度を維持するために,CSGCL(Community-Strength-enhanced Graph Contrastive Learning)フレームワークを提案する。
本稿では,CAV(Communal Attribute Voting)とCED(Communal Edge Dropping)の2つの新しいグラフ拡張手法を提案する。
本稿では,ノード分類,ノードクラスタリング,リンク予測という3つの下流タスクに関する広範な実験結果について報告する。
論文 参考訳(メタデータ) (2023-05-08T12:21:24Z) - Single-Pass Contrastive Learning Can Work for Both Homophilic and
Heterophilic Graph [60.28340453547902]
グラフコントラッシブ・ラーニング(GCL)技術は通常、コントラッシブ・ロスを構築するために単一のインスタンスに対して2つのフォワードパスを必要とする。
既存のGCLアプローチは、強力なパフォーマンス保証を提供していない。
我々はSingle-Pass Graph Contrastive Learning法(SP-GCL)を実装した。
経験的に、SP-GCLが学んだ機能は、計算オーバーヘッドを著しく少なくして、既存の強いベースラインにマッチまたは性能を向上することができる。
論文 参考訳(メタデータ) (2022-11-20T07:18:56Z) - Unifying Graph Contrastive Learning with Flexible Contextual Scopes [57.86762576319638]
フレキシブルコンテキストスコープを用いたグラフコントラスト学習(略してUGCL)という自己教師型学習手法を提案する。
本アルゴリズムは,隣接行列のパワーを制御し,コンテキストスコープによるフレキシブルな文脈表現を構築する。
局所的スコープと文脈的スコープの両方の表現に基づいて、distLはグラフ表現学習のための非常に単純な対照的な損失関数を最適化する。
論文 参考訳(メタデータ) (2022-10-17T07:16:17Z) - Uncovering the Structural Fairness in Graph Contrastive Learning [87.65091052291544]
グラフコントラスト学習(GCL)は、ノード表現を学習するための有望な自己教師型アプローチとして登場した。
GCL法で得られた表現は,GCN法で学習した表現よりも既に公平であることを示す。
我々は、低次ノードと高次ノードに異なる戦略を適用し、GRAph contrastive learning for Degree bias (GRADE)と呼ばれるグラフ拡張手法を考案した。
論文 参考訳(メタデータ) (2022-10-06T15:58:25Z) - An Empirical Study of Graph Contrastive Learning [17.246488437677616]
グラフコントラスト学習は、人間のアノテーションなしでグラフ表現を学習するための新しいパラダイムを確立する。
一般的なGCLパラダイムでは,拡張関数,コントラストモード,コントラスト目的,負のマイニング技術など,いくつかの重要な設計上の考慮事項を識別する。
今後の研究の促進とGCLアルゴリズムの実装を容易にするため,モジュール化されたCLコンポーネント,標準化された評価,実験管理を特徴とする,使い易いライブラリPyGCLを開発した。
論文 参考訳(メタデータ) (2021-09-02T17:43:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。