論文の概要: Privacy Attacks in Decentralized Learning

• arxiv url: http://arxiv.org/abs/2402.10001v2
• Date: Tue, 4 Jun 2024 12:34:25 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-06 12:58:06.388783
• Title: Privacy Attacks in Decentralized Learning
• Title（参考訳）: 分散学習におけるプライバシ・アタック
• Authors: Abdellah El Mrini, Edwige Cyffers, Aurélien Bellet,
• Abstract要約: Decentralized Gradient Descent (D-GD)は、データを共有することなく、複数のユーザが協調学習を行うことを可能にする。 本稿では,D-GDに対する最初の攻撃を提案する。 実際のグラフやデータセットに対する攻撃の有効性を検証することで、単一の攻撃者や少数の攻撃者によって侵入されたユーザの数が驚くほど大きいことを示しています。
• 参考スコア（独自算出の注目度）: 10.209045867868674
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Decentralized Gradient Descent (D-GD) allows a set of users to perform collaborative learning without sharing their data by iteratively averaging local model updates with their neighbors in a network graph. The absence of direct communication between non-neighbor nodes might lead to the belief that users cannot infer precise information about the data of others. In this work, we demonstrate the opposite, by proposing the first attack against D-GD that enables a user (or set of users) to reconstruct the private data of other users outside their immediate neighborhood. Our approach is based on a reconstruction attack against the gossip averaging protocol, which we then extend to handle the additional challenges raised by D-GD. We validate the effectiveness of our attack on real graphs and datasets, showing that the number of users compromised by a single or a handful of attackers is often surprisingly large. We empirically investigate some of the factors that affect the performance of the attack, namely the graph topology, the number of attackers, and their position in the graph.
• Abstract（参考訳）: Decentralized Gradient Descent (D-GD)は、ネットワークグラフで近隣のモデル更新を反復的に平均化することにより、データを共有することなく、複数のユーザが協調学習を行うことを可能にする。 非隣ノード間の直接通信がないことは、ユーザが他人のデータについて正確な情報を推測できないという信念に繋がる可能性がある。 本研究では,D-GDに対する最初の攻撃を提案し,ユーザ(あるいはユーザの集合体)が近隣の他のユーザのプライベートデータを再構築できるようにすることで,その逆を実証する。 提案手法は,ゴシップ平均化プロトコルに対する再構築攻撃に基づいており,D-GDによる追加課題に対処するために拡張する。 実際のグラフやデータセットに対する攻撃の有効性を検証することで、単一の攻撃者や少数の攻撃者によって侵入されたユーザの数が驚くほど大きいことを示しています。 本研究では,攻撃性能に影響を与える要因,すなわちグラフトポロジ,攻撃者数,および攻撃位置について実験的に検討する。

関連論文リスト

• Unveiling Privacy Vulnerabilities: Investigating the Role of Structure in Graph Data [17.11821761700748]
  本研究では,ネットワーク構造から生じるプライバシーリスクに対する理解と保護を推し進める。 我々は,ネットワーク構造によるプライバシー漏洩の可能性を評価するための重要なツールとして機能する,新しいグラフプライベート属性推論攻撃を開発した。 攻撃モデルはユーザのプライバシに重大な脅威を与え,グラフデータ公開手法は最適なプライバシとユーティリティのトレードオフを実現する。
  論文  参考訳（メタデータ） (2024-07-26T07:40:54Z)
• Ungeneralizable Examples [70.76487163068109]
  学習不能なデータを作成するための現在のアプローチには、小さくて特殊なノイズが組み込まれている。 学習不能データの概念を条件付きデータ学習に拡張し、textbfUntextbf Generalizable textbfExamples (UGEs)を導入する。 UGEは認証されたユーザに対して学習性を示しながら、潜在的なハッカーに対する非学習性を維持している。
  論文  参考訳（メタデータ） (2024-04-22T09:29:14Z)
• Towards Attack-tolerant Federated Learning via Critical Parameter Analysis [85.41873993551332]
  フェデレートされた学習システムは、悪意のあるクライアントが中央サーバーに誤ったアップデートを送信すると、攻撃を害するおそれがある。 本稿では,新たな防衛戦略であるFedCPA(Federated Learning with critical Analysis)を提案する。 攻撃耐性凝集法は, 有害局所モデルでは有毒局所モデルでは有毒局所モデルでは有毒局所モデルでは有毒局所モデルでは有毒局所モデルでは有毒局所モデルでは有毒であるのに対し, 類似したトップkおよびボトムk臨界パラメータを持つ。
  論文  参考訳（メタデータ） (2023-08-18T05:37:55Z)
• A Trajectory K-Anonymity Model Based on Point Density and Partition [0.0]
  本稿では点密度と分割(K PDP)に基づく軌道K匿名性モデルを開発する。 再識別攻撃に抵抗し、k匿名データセットのデータユーティリティ損失を低減する。
  論文  参考訳（メタデータ） (2023-07-31T17:10:56Z)
• Resisting Graph Adversarial Attack via Cooperative Homophilous Augmentation [60.50994154879244]
  最近の研究では、グラフニューラルネットワークは弱く、小さな摂動によって簡単に騙されることが示されている。 本研究では,グラフインジェクションアタック(Graph Injection Attack)という,新興だが重要な攻撃に焦点を当てる。 本稿では,グラフデータとモデルの協調的同好性増強によるGIAに対する汎用防衛フレームワークCHAGNNを提案する。
  論文  参考訳（メタデータ） (2022-11-15T11:44:31Z)
• Securing Federated Learning against Overwhelming Collusive Attackers [7.587927338603662]
  局所モデル間の相関を利用して,最小スパンニング木とk-Densestグラフに基づく2つのグラフ理論アルゴリズムを提案する。 我々のFLモデルは、攻撃者の影響を最大70%まで無効にすることができる。 我々は、精度、攻撃成功率、早期検出ラウンドを用いて、既存のアルゴリズムよりもアルゴリズムの優位性を確立する。
  論文  参考訳（メタデータ） (2022-09-28T13:41:04Z)
• Model Inversion Attacks against Graph Neural Networks [65.35955643325038]
  グラフニューラルネットワーク(GNN)に対するモデル反転攻撃について検討する。 本稿では,プライベートトレーニンググラフデータを推測するためにGraphMIを提案する。 実験の結果,このような防御効果は十分ではないことが示され,プライバシー攻撃に対するより高度な防御が求められている。
  論文  参考訳（メタデータ） (2022-09-16T09:13:43Z)
• Query-based Adversarial Attacks on Graph with Fake Nodes [32.67989796394633]
  そこで本研究では,元のグラフに偽ノードの集合を導入することで,新たな敵攻撃を提案する。 具体的には、各被害者ノードに対して、最も敵対的な特徴を取得するよう、被害者モデルに問い合わせる。 私たちの攻撃は実用的で目立たない方法で行われます。
  論文  参考訳（メタデータ） (2021-09-27T14:19:17Z)
• Graph Backdoor [53.70971502299977]
  GTAはグラフニューラルネットワーク(GNN)に対する最初のバックドア攻撃である。 GTAは、トポロジカル構造と記述的特徴の両方を含む特定の部分グラフとしてトリガーを定義する。 トランスダクティブ(ノード分類など)とインダクティブ(グラフ分類など)の両方のタスクに対してインスタンス化することができる。
  論文  参考訳（メタデータ） (2020-06-21T19:45:30Z)
• Adversarial Attack on Community Detection by Hiding Individuals [68.76889102470203]
  我々はブラックボックス攻撃に焦点をあて、ディープグラフコミュニティ検出モデルの検出からターゲット個人を隠すことを目的としている。 本稿では,制約付きグラフ生成器として動作するモジュールと,サロゲート型コミュニティ検出モデルとして動作するモジュールを交互に更新する反復学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-01-22T09:50:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。