論文の概要: Label-Only Membership Inference Attack against Node-Level Graph Neural Networks

• arxiv url: http://arxiv.org/abs/2207.13766v1
• Date: Wed, 27 Jul 2022 19:46:26 GMT
• ステータス: 処理完了
• システム内更新日: 2022-07-29 12:58:17.811946
• Title: Label-Only Membership Inference Attack against Node-Level Graph Neural Networks
• Title（参考訳）: ノードレベルグラフニューラルネットワークに対するラベル専用メンバーシップ推論攻撃
• Authors: Mauro Conti, Jiaxin Li, Stjepan Picek, and Jing Xu
• Abstract要約: グラフニューラルネットワーク(GNN)は、メンバーシップ推論攻撃(MIA)に対して脆弱である 本稿では,GNNのフレキシブル予測機構を利用して,ノード分類のためのラベルのみのMIAを提案する。 攻撃手法は,ほとんどのデータセットやGNNモデルに対して,AUC(Area Under the Curve)の精度,精度,面積の約60%を達成している。
• 参考スコア（独自算出の注目度）: 30.137860266059004
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Graph Neural Networks (GNNs), inspired by Convolutional Neural Networks (CNNs), aggregate the message of nodes' neighbors and structure information to acquire expressive representations of nodes for node classification, graph classification, and link prediction. Previous studies have indicated that GNNs are vulnerable to Membership Inference Attacks (MIAs), which infer whether a node is in the training data of GNNs and leak the node's private information, like the patient's disease history. The implementation of previous MIAs takes advantage of the models' probability output, which is infeasible if GNNs only provide the prediction label (label-only) for the input. In this paper, we propose a label-only MIA against GNNs for node classification with the help of GNNs' flexible prediction mechanism, e.g., obtaining the prediction label of one node even when neighbors' information is unavailable. Our attacking method achieves around 60\% accuracy, precision, and Area Under the Curve (AUC) for most datasets and GNN models, some of which are competitive or even better than state-of-the-art probability-based MIAs implemented under our environment and settings. Additionally, we analyze the influence of the sampling method, model selection approach, and overfitting level on the attack performance of our label-only MIA. Both of those factors have an impact on the attack performance. Then, we consider scenarios where assumptions about the adversary's additional dataset (shadow dataset) and extra information about the target model are relaxed. Even in those scenarios, our label-only MIA achieves a better attack performance in most cases. Finally, we explore the effectiveness of possible defenses, including Dropout, Regularization, Normalization, and Jumping knowledge. None of those four defenses prevent our attack completely.
• Abstract（参考訳）: 畳み込みニューラルネットワーク(CNN)にインスパイアされたグラフニューラルネットワーク(GNN)は、ノードの隣人のメッセージと構造情報を集約し、ノード分類、グラフ分類、リンク予測のためのノードの表現表現を取得する。 これまでの研究では、GNNは、GNNのトレーニングデータに含まれるノードかどうかを推測し、患者の病歴のようなノードの個人情報を漏洩するメンバーシップ推論攻撃(MIA)に弱いことが示されている。 以前のmiasの実装はモデルの確率出力を利用しており、gnnが入力の予測ラベル(ラベルのみ)しか提供しない場合、実現不可能である。 本稿では,gnnsのフレキシブルな予測機構,例えば,隣接ノードの情報が利用できない場合にも1ノードの予測ラベルを取得することで,ノード分類におけるgnnsに対するラベルのみのmiaを提案する。 攻撃手法は,ほとんどのデータセットやGNNモデルに対して,約60 %の精度,精度,AUC(Area Under the Curve)を実現している。 さらに, サンプリング手法, モデル選択手法, オーバーフィッティングレベルが, ラベルのみのMIAの攻撃性能に与える影響を解析した。 これらの要因はいずれも攻撃性能に影響を及ぼす。 次に、敵の追加データセット(シャドウデータセット)に関する仮定と、ターゲットモデルに関する追加情報が緩和されるシナリオを検討する。 これらのシナリオでさえ、ラベルのみのMIAは、ほとんどのケースでより良い攻撃性能を達成する。 最後に,ドロップアウト,正規化,正規化,跳躍知識などの防衛効果について検討する。 この4つの防御は 攻撃を完全に防げない

関連論文リスト

• Rethinking Independent Cross-Entropy Loss For Graph-Structured Data [41.92169850308025]
  グラフニューラルネットワーク(GNN)は、グラフ構造化データの学習において顕著なパフォーマンスを示した。 本研究では,各ノードと対応するクラスタの結合分布をモデル化する,共同クラスタ型学習という新しいフレームワークを提案する。 このようにして、ローカルクラスタから抽出されたデータラベル参照信号は、ターゲットノード上の識別能力を明示的に強化する。
  論文  参考訳（メタデータ） (2024-05-24T13:52:41Z)
• Link Stealing Attacks Against Inductive Graph Neural Networks [60.931106032824275]
  グラフニューラルネットワーク(GNN)は、グラフ構造化データを処理するように設計されたニューラルネットワークの一種である。 これまでの研究によると、トランスダクティブGNNは一連のプライバシー攻撃に弱い。 本稿では,リンク盗難攻撃のレンズを通して,誘導型GNNの包括的プライバシー分析を行う。
  論文  参考訳（メタデータ） (2024-05-09T14:03:52Z)
• Graph Agent Network: Empowering Nodes with Inference Capabilities for Adversarial Resilience [50.460555688927826]
  グラフニューラルネットワーク(GNN)の脆弱性に対処するグラフエージェントネットワーク(GAgN)を提案する。 GAgNはグラフ構造化エージェントネットワークであり、各ノードは1-hop-viewエージェントとして設計されている。 エージェントの限られたビューは、悪意のあるメッセージがGAgNでグローバルに伝播するのを防ぎ、グローバル最適化ベースのセカンダリアタックに抵抗する。
  論文  参考訳（メタデータ） (2023-06-12T07:27:31Z)
• Uncertainty Quantification over Graph with Conformalized Graph Neural Networks [52.20904874696597]
  グラフニューラルネットワーク(GNN)は、グラフ構造化データに基づく強力な機械学習予測モデルである。 GNNには厳密な不確実性見積が欠如しており、エラーのコストが重要な設定での信頼性の高いデプロイメントが制限されている。 本稿では,共形予測(CP)をグラフベースモデルに拡張した共形GNN(CF-GNN)を提案する。
  論文  参考訳（メタデータ） (2023-05-23T21:38:23Z)
• Resisting Graph Adversarial Attack via Cooperative Homophilous Augmentation [60.50994154879244]
  最近の研究では、グラフニューラルネットワークは弱く、小さな摂動によって簡単に騙されることが示されている。 本研究では,グラフインジェクションアタック(Graph Injection Attack)という,新興だが重要な攻撃に焦点を当てる。 本稿では,グラフデータとモデルの協調的同好性増強によるGIAに対する汎用防衛フレームワークCHAGNNを提案する。
  論文  参考訳（メタデータ） (2022-11-15T11:44:31Z)
• GANI: Global Attacks on Graph Neural Networks via Imperceptible Node Injections [20.18085461668842]
  グラフニューラルネットワーク(GNN)は、様々なグラフ関連タスクで成功している。 近年の研究では、多くのGNNが敵の攻撃に弱いことが示されている。 本稿では,偽ノードを注入することで,現実的な攻撃操作に焦点を当てる。
  論文  参考訳（メタデータ） (2022-10-23T02:12:26Z)
• Model Inversion Attacks against Graph Neural Networks [65.35955643325038]
  グラフニューラルネットワーク(GNN)に対するモデル反転攻撃について検討する。 本稿では,プライベートトレーニンググラフデータを推測するためにGraphMIを提案する。 実験の結果,このような防御効果は十分ではないことが示され,プライバシー攻撃に対するより高度な防御が求められている。
  論文  参考訳（メタデータ） (2022-09-16T09:13:43Z)
• Adapting Membership Inference Attacks to GNN for Graph Classification: Approaches and Implications [32.631077336656936]
  グラフニューラルネットワーク(GNN)に対するメンバーシップ推論攻撃(MIA)は、深刻なプライバシー上の懸念を引き起こす。 グラフレベル分類のためのGNNに対するMIAの第一歩を踏み出します。 我々は、異なる敵の能力から、トレーニングベースの攻撃としきい値ベースの攻撃という2つのタイプの攻撃を提示し、実装する。
  論文  参考訳（メタデータ） (2021-10-17T08:41:21Z)
• Membership Inference Attack on Graph Neural Networks [1.6457778420360536]
  我々は、トレーニングされたGNNモデルが、トレーニングされたEmphmemberノードに関する情報を漏洩させる方法について焦点を当てる。 訓練されたモデルの後部を利用した最も単純な攻撃モデルを選択する。 意外で心配な事実は、ターゲットモデルがうまく一般化しても攻撃が成功することである。
  論文  参考訳（メタデータ） (2021-01-17T02:12:35Z)
• Uncertainty-Matching Graph Neural Networks to Defend Against Poisoning Attacks [43.60973654460398]
  グラフニューラルネットワーク(GNN)は、ニューラルネットワークからグラフ構造化データへの一般化である。 GNNは敵の攻撃に弱い、すなわち、構造に対する小さな摂動は、非自明な性能劣化を引き起こす可能性がある。 本稿では,GNNモデルの堅牢性向上を目的とした不確実性マッチングGNN(UM-GNN)を提案する。
  論文  参考訳（メタデータ） (2020-09-30T05:29:42Z)
• Graph Backdoor [53.70971502299977]
  GTAはグラフニューラルネットワーク(GNN)に対する最初のバックドア攻撃である。 GTAは、トポロジカル構造と記述的特徴の両方を含む特定の部分グラフとしてトリガーを定義する。 トランスダクティブ(ノード分類など)とインダクティブ(グラフ分類など)の両方のタスクに対してインスタンス化することができる。
  論文  参考訳（メタデータ） (2020-06-21T19:45:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。