論文の概要: Quantifying and Defending against Privacy Threats on Federated Knowledge
Graph Embedding
- arxiv url: http://arxiv.org/abs/2304.02932v1
- Date: Thu, 6 Apr 2023 08:44:49 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-07 14:46:24.213160
- Title: Quantifying and Defending against Privacy Threats on Federated Knowledge
Graph Embedding
- Title（参考訳）: 連合知識グラフ埋め込みにおけるプライバシの脅威に対する定量化と防御
- Authors: Yuke Hu, Wei Liang, Ruofan Wu, Kai Xiao, Weiqiang Wang, Xiaochen Li,
Jinfei Liu, Zhan Qin
- Abstract要約: 我々は、攻撃と防衛の両方の観点から、KGE(Knowledge Graph Embedding)におけるプライバシーの脅威に関する最初の総合的研究を行う。
この攻撃のために、我々は3つの新たな推論攻撃を提案し、プライバシーの脅威を定量化します。
本稿では,DP-Flamesを提案する。
- 参考スコア（独自算出の注目度）: 27.003706269026097
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Knowledge Graph Embedding (KGE) is a fundamental technique that extracts
expressive representation from knowledge graph (KG) to facilitate diverse
downstream tasks. The emerging federated KGE (FKGE) collaboratively trains from
distributed KGs held among clients while avoiding exchanging clients' sensitive
raw KGs, which can still suffer from privacy threats as evidenced in other
federated model trainings (e.g., neural networks). However, quantifying and
defending against such privacy threats remain unexplored for FKGE which
possesses unique properties not shared by previously studied models. In this
paper, we conduct the first holistic study of the privacy threat on FKGE from
both attack and defense perspectives. For the attack, we quantify the privacy
threat by proposing three new inference attacks, which reveal substantial
privacy risk by successfully inferring the existence of the KG triple from
victim clients. For the defense, we propose DP-Flames, a novel differentially
private FKGE with private selection, which offers a better privacy-utility
tradeoff by exploiting the entity-binding sparse gradient property of FKGE and
comes with a tight privacy accountant by incorporating the state-of-the-art
private selection technique. We further propose an adaptive privacy budget
allocation policy to dynamically adjust defense magnitude across the training
procedure. Comprehensive evaluations demonstrate that the proposed defense can
successfully mitigate the privacy threat by effectively reducing the success
rate of inference attacks from $83.1\%$ to $59.4\%$ on average with only a
modest utility decrease.
- Abstract（参考訳）: 知識グラフ埋め込み(KGE)は、知識グラフ(KG)から表現表現を抽出し、多様な下流タスクを容易にする基礎技術である。
新興連合KGE(FKGE)は、クライアント間で保持される分散KGから協調的にトレーニングすると同時に、他のフェデレーションモデルトレーニング(例えばニューラルネットワーク)で証明されているように、クライアントの機密性の高い生KGの交換を回避している。
しかし、そのようなプライバシの脅威に対する定量化と防御は、以前に研究されたモデルで共有されていないユニークな特性を持つFKGEにとって未解決のままである。
本稿では,fkgeにおけるプライバシの脅威について,攻撃と防衛の両方の観点から初めて総合的に検討する。
この攻撃に対して、我々は3つの新たな推論攻撃を提案し、KGトリプルの存在を被害者クライアントから推測することで、かなりのプライバシーリスクを明らかにすることにより、プライバシの脅威を定量化する。
防衛のために,fkgeのエンティティ結合スパース勾配特性を活用し,最先端のプライベート選択手法を組み込んだ,より優れたプライバシ利用トレードオフを提供する,プライベート選択の差分プライベートfkgeであるdp-flamesを提案する。
さらに,適応型プライバシー予算配分政策を提案し,トレーニング手順全体で防衛規模を動的に調整する。
包括的評価により、提案されている防衛は、推論攻撃の成功率を平均で83.1\%$から59.4\%$に効果的に減少させることで、プライバシの脅威を効果的に軽減し得ることが示されている。
関連論文リスト
- GraphTheft: Quantifying Privacy Risks in Graph Prompt Learning [1.2255617580795168]
Graph Prompt Learning(GPL)は、グラフ表現学習における革新的なアプローチであり、基礎となる事前学習モデルを変更することなく、プロンプトを微調整することでタスク固有の適応を可能にする。
人気の高まりにもかかわらず、PLに固有のプライバシーリスクは未解明のままである。
サービスとして機能する時のブラックボックス攻撃と、ノードの埋め込みとプロンプト表現がサードパーティにアクセス可能なシナリオだ。
論文 参考訳（メタデータ） (2024-11-22T04:10:49Z) - Unveiling Privacy Vulnerabilities: Investigating the Role of Structure in Graph Data [17.11821761700748]
本研究では,ネットワーク構造から生じるプライバシーリスクに対する理解と保護を推し進める。
我々は,ネットワーク構造によるプライバシー漏洩の可能性を評価するための重要なツールとして機能する,新しいグラフプライベート属性推論攻撃を開発した。
攻撃モデルはユーザのプライバシに重大な脅威を与え,グラフデータ公開手法は最適なプライバシとユーティリティのトレードオフを実現する。
論文 参考訳（メタデータ） (2024-07-26T07:40:54Z) - A Game-Theoretic Approach to Privacy-Utility Tradeoff in Sharing Genomic Summary Statistics [24.330984323956173]
本稿では,ゲノムサマリー統計の共有において,最適なプライバシ・ユーティリティ・トレードオフのためのゲーム理論フレームワークを提案する。
実験により,提案手法は,技術状況よりも強力な攻撃と強力な防衛戦略をもたらすことが示された。
論文 参考訳（メタデータ） (2024-06-03T22:09:47Z) - Secure Aggregation is Not Private Against Membership Inference Attacks [66.59892736942953]
フェデレーション学習におけるSecAggのプライバシーへの影響について検討する。
SecAggは、単一のトレーニングラウンドであっても、メンバシップ推論攻撃に対して弱いプライバシを提供します。
以上の結果から,ノイズ注入などの付加的なプライバシー強化機構の必要性が浮き彫りになった。
論文 参考訳（メタデータ） (2024-03-26T15:07:58Z) - Node Injection Link Stealing Attack [0.649970685896541]
グラフ構造化データ内のプライベートリンクを推測することにより、グラフニューラルネットワーク(GNN)のプライバシ脆弱性を露呈する、ステルスで効果的な攻撃を提案する。
我々の研究は、GNNに固有のプライバシの脆弱性を強調し、アプリケーションの堅牢なプライバシ保護メカニズムを開発することの重要性を強調しています。
論文 参考訳（メタデータ） (2023-07-25T14:51:01Z) - Breaking the Communication-Privacy-Accuracy Tradeoff with
$f$-Differential Privacy [51.11280118806893]
サーバが複数のユーザの協調的なデータ分析を,プライバシの懸念と限られた通信能力で調整する,フェデレートされたデータ分析問題を考える。
有限出力空間を有する離散値機構の局所的差分プライバシー保証を$f$-differential privacy (DP) レンズを用いて検討する。
より具体的には、様々な離散的評価機構の厳密な$f$-DP保証を導出することにより、既存の文献を前進させる。
論文 参考訳（メタデータ） (2023-02-19T16:58:53Z) - Is Vertical Logistic Regression Privacy-Preserving? A Comprehensive
Privacy Analysis and Beyond [57.10914865054868]
垂直ロジスティック回帰(VLR)をミニバッチ降下勾配で訓練した。
我々は、オープンソースのフェデレーション学習フレームワークのクラスにおいて、VLRの包括的で厳密なプライバシー分析を提供する。
論文 参考訳（メタデータ） (2022-07-19T05:47:30Z) - PRECAD: Privacy-Preserving and Robust Federated Learning via
Crypto-Aided Differential Privacy [14.678119872268198]
フェデレートラーニング(FL)は、複数の参加するクライアントがデータセットをローカルに保持し、モデル更新のみを交換することで、機械学習モデルを協調的にトレーニングすることを可能にする。
既存のFLプロトコルの設計は、データのプライバシやモデルの堅牢性を損なうような攻撃に対して脆弱であることが示されている。
我々はPreCADと呼ばれるフレームワークを開発し、同時に差分プライバシー(DP)を実現し、暗号の助けを借りてモデル中毒攻撃に対する堅牢性を高める。
論文 参考訳（メタデータ） (2021-10-22T04:08:42Z) - Understanding Clipping for Federated Learning: Convergence and
Client-Level Differential Privacy [67.4471689755097]
本稿では, 切断したFedAvgが, 実質的なデータ均一性でも驚くほど良好に動作できることを実証的に示す。
本稿では,差分プライベート(DP)FedAvgアルゴリズムの収束解析を行い,クリッピングバイアスとクライアント更新の分布との関係を明らかにする。
論文 参考訳（メタデータ） (2021-06-25T14:47:19Z) - Robustness Threats of Differential Privacy [70.818129585404]
我々は、いくつかの設定で差分プライバシーをトレーニングしたネットワークが、非プライベートバージョンに比べてさらに脆弱であることを実験的に実証した。
本研究では,勾配クリッピングや雑音付加などのニューラルネットワークトレーニングの主成分が,モデルの堅牢性に与える影響について検討する。
論文 参考訳（メタデータ） (2020-12-14T18:59:24Z) - Private Reinforcement Learning with PAC and Regret Guarantees [69.4202374491817]
エピソード強化学習(RL)のためのプライバシー保護探索ポリシーを設計する。
まず、共同微分プライバシー(JDP)の概念を用いた有意義なプライバシー定式化を提供する。
そこで我々は,強いPACと後悔境界を同時に達成し,JDP保証を享受する,プライベートな楽観主義に基づく学習アルゴリズムを開発した。
論文 参考訳（メタデータ） (2020-09-18T20:18:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。