論文の概要: Releasing Graph Neural Networks with Differential Privacy Guarantees
- arxiv url: http://arxiv.org/abs/2109.08907v1
- Date: Sat, 18 Sep 2021 11:35:19 GMT
- ステータス: 処理完了
- システム内更新日: 2021-09-23 11:44:19.915750
- Title: Releasing Graph Neural Networks with Differential Privacy Guarantees
- Title（参考訳）: 差分プライバシー保証を備えたグラフニューラルネットワークのリリース
- Authors: Iyiola E. Olatunji, Thorben Funke, and Megha Khosla
- Abstract要約: 本稿では,学生のGNNをリリースするグラフ固有の新しいスキームを提案する。
我々は、Renyi差分プライバシーフレームワークにおける我々のアプローチを理論的に分析し、プライバシー保証を提供する。
- 参考スコア（独自算出の注目度）: 1.7396274240172125
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: With the increasing popularity of Graph Neural Networks (GNNs) in several
sensitive applications like healthcare and medicine, concerns have been raised
over the privacy aspects of trained GNNs. More notably, GNNs are vulnerable to
privacy attacks, such as membership inference attacks, even if only blackbox
access to the trained model is granted. To build defenses, differential privacy
has emerged as a mechanism to disguise the sensitive data in training datasets.
Following the strategy of Private Aggregation of Teacher Ensembles (PATE),
recent methods leverage a large ensemble of teacher models. These teachers are
trained on disjoint subsets of private data and are employed to transfer
knowledge to a student model, which is then released with privacy guarantees.
However, splitting graph data into many disjoint training sets may destroy the
structural information and adversely affect accuracy. We propose a new
graph-specific scheme of releasing a student GNN, which avoids splitting
private training data altogether. The student GNN is trained using public data,
partly labeled privately using the teacher GNN models trained exclusively for
each query node. We theoretically analyze our approach in the R\`{e}nyi
differential privacy framework and provide privacy guarantees. Besides, we show
the solid experimental performance of our method compared to several baselines,
including the PATE baseline adapted for graph-structured data. Our anonymized
code is available.
- Abstract（参考訳）: 医療や医療などの機密性の高いアプリケーションでグラフニューラルネットワーク(GNN)の人気が高まっているため、トレーニングされたGNNのプライバシー面での懸念が高まっている。
特に、GNNは、トレーニングされたモデルへのブラックボックスアクセスのみを許可しても、メンバーシップ推論攻撃のようなプライバシー攻撃に弱い。
防御を構築するために、差分プライバシーは、トレーニングデータセットでセンシティブなデータを偽装するメカニズムとして登場した。
PATE(Private Aggregation of Teacher Ensembles)の戦略に従い、近年の手法は教師モデルの大規模なアンサンブルを活用する。
これらの教師は、プライベートデータの分離されたサブセットで訓練を受け、学生モデルに知識を伝達するために雇われ、プライバシー保証付きで解放される。
しかし、グラフデータを多くの不整合トレーニングセットに分割すると、構造情報が破壊され、精度に悪影響を及ぼす可能性がある。
本稿では,学生のGNNをリリースするグラフ固有の新しいスキームを提案する。
学生GNNは、公開データを使用してトレーニングされ、部分的には、各クエリノードにのみトレーニングされた教師GNNモデルを使用して、プライベートにラベル付けされる。
理論的には、我々のアプローチをR\`{e}nyi差分プライバシーフレームワークで分析し、プライバシー保証を提供します。
さらに,グラフ構造データに適合するPATEベースラインを含む,いくつかのベースラインと比較して,本手法の堅牢な実験性能を示す。
匿名コードも利用可能です。
関連論文リスト
- Link Stealing Attacks Against Inductive Graph Neural Networks [60.931106032824275]
グラフニューラルネットワーク(GNN)は、グラフ構造化データを処理するように設計されたニューラルネットワークの一種である。
これまでの研究によると、トランスダクティブGNNは一連のプライバシー攻撃に弱い。
本稿では,リンク盗難攻撃のレンズを通して,誘導型GNNの包括的プライバシー分析を行う。
論文 参考訳（メタデータ） (2024-05-09T14:03:52Z) - Blink: Link Local Differential Privacy in Graph Neural Networks via
Bayesian Estimation [79.64626707978418]
分散ノード上でのリンクローカル差分プライバシーを用いてグラフニューラルネットワークをトレーニングする。
当社のアプローチでは、グラフトポロジをより悪用するために、グラフのリンクと学位を別々に、プライバシ予算に費やしています。
当社のアプローチは、様々なプライバシー予算の下での精度において、既存の手法よりも優れています。
論文 参考訳（メタデータ） (2023-09-06T17:53:31Z) - A Survey on Privacy in Graph Neural Networks: Attacks, Preservation, and
Applications [76.88662943995641]
グラフニューラルネットワーク(GNN)は、グラフ構造化データを扱う能力のため、大きな注目を集めている。
この問題に対処するため、研究者らはプライバシー保護のGNNの開発を開始した。
この進歩にもかかわらず、攻撃の包括的概要と、グラフドメインのプライバシを保存するためのテクニックが欠如している。
論文 参考訳（メタデータ） (2023-08-31T00:31:08Z) - Unveiling the Role of Message Passing in Dual-Privacy Preservation on
GNNs [7.626349365968476]
グラフニューラルネットワーク(GNN)は、ソーシャルネットワークなどのグラフ上で表現を学習するための強力なツールである。
プライバシを保存するGNNは、ノードやリンクのプライバシの保護に重点を置いて提案されている。
本稿では,ノードとリンクの両方を効果的に保護するプライバシー保護型GNNフレームワークを提案する。
論文 参考訳（メタデータ） (2023-08-25T17:46:43Z) - Differentially Private Graph Neural Network with Importance-Grained
Noise Adaption [6.319864669924721]
ノードが個人や機密情報を表現している場合、グラフプライバシを保護するために、差分プライバシを持つグラフニューラルネットワーク(GNN)が提案されている。
ノードがプライベートにしておく必要があるが、GNNのトレーニングには不可欠である個人データを含む、重要度の高いプライバシの問題について検討する。
NAP-GNNはノード情報を保護するための適応差分プライバシーに基づくプライバシー保証付きノード単位のプライバシ保存GNNアルゴリズムである。
論文 参考訳（メタデータ） (2023-08-09T13:18:41Z) - Node Injection Link Stealing Attack [0.649970685896541]
グラフ構造化データ内のプライベートリンクを推測することにより、グラフニューラルネットワーク(GNN)のプライバシ脆弱性を露呈する、ステルスで効果的な攻撃を提案する。
我々の研究は、GNNに固有のプライバシの脆弱性を強調し、アプリケーションの堅牢なプライバシ保護メカニズムを開発することの重要性を強調しています。
論文 参考訳（メタデータ） (2023-07-25T14:51:01Z) - ProGAP: Progressive Graph Neural Networks with Differential Privacy
Guarantees [8.79398901328539]
グラフニューラルネットワーク(GNN)は、グラフを学習するための一般的なツールとなっているが、広く使われているため、プライバシの懸念が高まる。
本稿では,ProGAPと呼ばれる新たなGNNを提案し,プログレッシブトレーニング手法を用いて,そのような精度とプライバシのトレードオフを改善する。
論文 参考訳（メタデータ） (2023-04-18T12:08:41Z) - Unraveling Privacy Risks of Individual Fairness in Graph Neural Networks [66.0143583366533]
グラフニューラルネットワーク(GNN)は、その拡張現実の応用により、大きな注目を集めている。
信頼できるGNNを構築するためには、公平性とプライバシという2つの側面が重要な考慮事項として浮上している。
これまでの研究では、GNNの公平性とプライバシの側面を別々に検討し、GNNのパフォーマンスとのトレードオフを明らかにしている。
しかし、この2つの側面の相互作用は未解明のままである。
論文 参考訳（メタデータ） (2023-01-30T14:52:23Z) - Towards Private Learning on Decentralized Graphs with Local Differential
Privacy [45.47822758278652]
em Solitudeはグラフニューラルネットワーク(GNN)に基づく新しいプライバシー保護学習フレームワーク
我々の新しいフレームワークは、ノード機能のプライバシとエッジのプライバシを同時に保護し、あらゆるGNNとシームレスにプライバシユーティリティの保証を組み込むことができます。
論文 参考訳（メタデータ） (2022-01-23T23:20:56Z) - Robustness Threats of Differential Privacy [70.818129585404]
我々は、いくつかの設定で差分プライバシーをトレーニングしたネットワークが、非プライベートバージョンに比べてさらに脆弱であることを実験的に実証した。
本研究では,勾配クリッピングや雑音付加などのニューラルネットワークトレーニングの主成分が,モデルの堅牢性に与える影響について検討する。
論文 参考訳（メタデータ） (2020-12-14T18:59:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。