論文の概要: Property inference attack; Graph neural networks; Privacy attacks and defense; Trustworthy machine learning

• arxiv url: http://arxiv.org/abs/2209.01100v1
• Date: Fri, 2 Sep 2022 14:59:37 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-05 13:03:09.648511
• Title: Property inference attack; Graph neural networks; Privacy attacks and defense; Trustworthy machine learning
• Title（参考訳）: プロパティ推論攻撃; グラフニューラルネットワーク; プライバシ攻撃と防御; 信頼できる機械学習
• Authors: Xiuling Wang and Wendy Hui Wang
• Abstract要約: 機械学習モデルは、トレーニングデータに関する情報を漏洩するプライバシー攻撃に弱い。 本研究では,プロパティ推論攻撃(PIA)と呼ばれる,特定の種類のプライバシ攻撃に焦点を当てる。 我々は、グラフニューラルネットワーク(GNN)を対象モデルとし、トレーニンググラフ内の特定のノードとリンクの分布を目標特性とみなす。
• 参考スコア（独自算出の注目度）: 5.598383724295497
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: With the fast adoption of machine learning (ML) techniques, sharing of ML models is becoming popular. However, ML models are vulnerable to privacy attacks that leak information about the training data. In this work, we focus on a particular type of privacy attacks named property inference attack (PIA) which infers the sensitive properties of the training data through the access to the target ML model. In particular, we consider Graph Neural Networks (GNNs) as the target model, and distribution of particular groups of nodes and links in the training graph as the target property. While the existing work has investigated PIAs that target at graph-level properties, no prior works have studied the inference of node and link properties at group level yet. In this work, we perform the first systematic study of group property inference attacks (GPIA) against GNNs. First, we consider a taxonomy of threat models under both black-box and white-box settings with various types of adversary knowledge, and design six different attacks for these settings. We evaluate the effectiveness of these attacks through extensive experiments on three representative GNN models and three real-world graphs. Our results demonstrate the effectiveness of these attacks whose accuracy outperforms the baseline approaches. Second, we analyze the underlying factors that contribute to GPIA's success, and show that the target model trained on the graphs with or without the target property represents some dissimilarity in model parameters and/or model outputs, which enables the adversary to infer the existence of the property. Further, we design a set of defense mechanisms against the GPIA attacks, and demonstrate that these mechanisms can reduce attack accuracy effectively with small loss on GNN model accuracy.
• Abstract（参考訳）: 機械学習(ML)技術の採用が急速に進み、MLモデルの共有が人気を集めている。 しかし、MLモデルは、トレーニングデータに関する情報を漏洩するプライバシー攻撃に弱い。 本稿では,対象のmlモデルへのアクセスを通じて,トレーニングデータの機密特性を推測するプロパティ推論攻撃(pia)と呼ばれる,特定のタイプのプライバシ攻撃に注目する。 特に,グラフニューラルネットワーク(GNN)を対象モデルとし,学習グラフ内の特定のノード群とリンクの分布を対象特性とする。 既存の研究はグラフレベルの特性を対象とするPIAを調査しているが,グループレベルでのノードおよびリンク特性の推測についてはまだ研究されていない。 本研究では,GNNに対するグループプロパティ推論攻撃 (GPIA) に関する最初の系統的研究を行う。 まず、ブラックボックスとホワイトボックスの双方で様々な種類の敵の知識を持つ脅威モデルの分類を検討し、これらの設定に対して6つの異なる攻撃を設計する。 3つの代表的GNNモデルと3つの実世界グラフの広範な実験により,これらの攻撃の有効性を評価する。 本研究は,精度がベースラインアプローチに勝る攻撃の有効性を示す。 第2に、gpiaの成功に寄与する要因を分析し、対象プロパティの有無に関わらずグラフ上でトレーニングされた対象モデルが、モデルパラメータと/またはモデル出力の相似性を示すことを示し、敵がその特性の存在を推測することを可能にする。 さらに,GPIA攻撃に対する防御機構のセットを設計し,GNNモデルの精度を損なうことなく,攻撃精度を効果的に低減できることを示した。

関連論文リスト

• Graph Transductive Defense: a Two-Stage Defense for Graph Membership Inference Attacks [50.19590901147213]
  グラフニューラルネットワーク(GNN)は、さまざまな現実世界のアプリケーションにおいて、強力なグラフ学習機能を提供する。 GNNは、メンバーシップ推論攻撃(MIA)を含む敵攻撃に対して脆弱である 本稿では,グラフトランスダクティブ学習特性に合わせて,グラフトランスダクティブ・ディフェンス(GTD)を提案する。
  論文  参考訳（メタデータ） (2024-06-12T06:36:37Z)
• Securing Graph Neural Networks in MLaaS: A Comprehensive Realization of Query-based Integrity Verification [68.86863899919358]
  我々は機械学習におけるGNNモデルをモデル中心の攻撃から保護するための画期的なアプローチを導入する。 提案手法は,GNNの完全性に対する包括的検証スキーマを含み,トランスダクティブとインダクティブGNNの両方を考慮している。 本稿では,革新的なノード指紋生成アルゴリズムを組み込んだクエリベースの検証手法を提案する。
  論文  参考訳（メタデータ） (2023-12-13T03:17:05Z)
• Model Inversion Attacks against Graph Neural Networks [65.35955643325038]
  グラフニューラルネットワーク(GNN)に対するモデル反転攻撃について検討する。 本稿では,プライベートトレーニンググラフデータを推測するためにGraphMIを提案する。 実験の結果,このような防御効果は十分ではないことが示され,プライバシー攻撃に対するより高度な防御が求められている。
  論文  参考訳（メタデータ） (2022-09-16T09:13:43Z)
• Unveiling the potential of Graph Neural Networks for robust Intrusion Detection [2.21481607673149]
  本稿では,グラフとして構造化された攻撃の流れパターンを学習するための新しいグラフニューラルネットワーク(GNN)モデルを提案する。 我々のモデルは従来の実験と同等の精度を維持することができる一方、最先端のML技術は敵攻撃下で50%の精度(F1スコア)を低下させる。
  論文  参考訳（メタデータ） (2021-07-30T16:56:39Z)
• Property Inference Attacks on Convolutional Neural Networks: Influence and Implications of Target Model's Complexity [1.2891210250935143]
  プロパティ推論攻撃は、トレーニングデータセットに関する与えられたモデルプロパティをモデルの主な目標とは無関係に推測することを目的としている。 本稿では,ターゲットモデルの複雑性が攻撃の精度に及ぼす影響について検討する。 その結果,ターゲットモデルの複雑さとは無関係に,プライバシ侵害のリスクがあることが判明した。
  論文  参考訳（メタデータ） (2021-04-27T09:19:36Z)
• Node-Level Membership Inference Attacks Against Graph Neural Networks [29.442045622210532]
  新しい機械学習(ML)モデル、すなわちグラフニューラルネットワーク(GNN)が導入された。 これまでの研究では、機械学習モデルはプライバシー攻撃に弱いことが示されている。 本稿では,GNNに対するノードレベルメンバシップ推論攻撃の包括的解析を行う。
  論文  参考訳（メタデータ） (2021-02-10T13:51:54Z)
• ML-Doctor: Holistic Risk Assessment of Inference Attacks Against Machine Learning Models [64.03398193325572]
  機械学習(ML)モデルに対する推論攻撃により、敵はトレーニングデータやモデルパラメータなどを学ぶことができる。 私たちは、メンバシップ推論、モデル反転、属性推論、モデル盗難の4つの攻撃に集中しています。 私たちの分析では、MLモデルオーナがモデルをデプロイするリスクを評価することができる、モジュール化された再使用可能なソフトウェアであるML-Doctorに依存しています。
  論文  参考訳（メタデータ） (2021-02-04T11:35:13Z)
• Membership Inference Attack on Graph Neural Networks [1.6457778420360536]
  我々は、トレーニングされたGNNモデルが、トレーニングされたEmphmemberノードに関する情報を漏洩させる方法について焦点を当てる。 訓練されたモデルの後部を利用した最も単純な攻撃モデルを選択する。 意外で心配な事実は、ターゲットモデルがうまく一般化しても攻撃が成功することである。
  論文  参考訳（メタデータ） (2021-01-17T02:12:35Z)
• Model Extraction Attacks on Graph Neural Networks: Taxonomy and Realization [40.37373934201329]
  GNNモデルに対するモデル抽出攻撃について検討・開発する。 まず、GNNモデル抽出の文脈で脅威モデリングを定式化する。 次に、攻撃を実装するために、各脅威においてアクセス可能な知識を利用する詳細な方法を示す。
  論文  参考訳（メタデータ） (2020-10-24T03:09:37Z)
• Reinforcement Learning-based Black-Box Evasion Attacks to Link Prediction in Dynamic Graphs [87.5882042724041]
  動的グラフ(LPDG)におけるリンク予測は、多様な応用を持つ重要な研究課題である。 我々は,LPDG法の脆弱性を調査し,最初の実用的なブラックボックス回避攻撃を提案する。
  論文  参考訳（メタデータ） (2020-09-01T01:04:49Z)
• Graph Backdoor [53.70971502299977]
  GTAはグラフニューラルネットワーク(GNN)に対する最初のバックドア攻撃である。 GTAは、トポロジカル構造と記述的特徴の両方を含む特定の部分グラフとしてトリガーを定義する。 トランスダクティブ(ノード分類など)とインダクティブ(グラフ分類など)の両方のタスクに対してインスタンス化することができる。
  論文  参考訳（メタデータ） (2020-06-21T19:45:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。