Fugu-MT 論文翻訳(概要): Network-Level Adversaries in Federated Learning

論文の概要: Network-Level Adversaries in Federated Learning

arxiv url: http://arxiv.org/abs/2208.12911v1
Date: Sat, 27 Aug 2022 02:42:04 GMT
ステータス: 処理完了
システム内更新日: 2022-08-30 14:54:51.323423
Title: Network-Level Adversaries in Federated Learning
Title（参考訳）: フェデレーションラーニングにおけるネットワークレベルアドバーナリー
Authors: Giorgio Severi, Matthew Jagielski, G\"okberk Yar, Yuxuan Wang, Alina Oprea, Cristina Nita-Rotaru
Abstract要約: ネットワークレベルの敵がフェデレーション学習モデルの訓練に与える影響について検討する。攻撃者は、慎重に選択されたクライアントからネットワークトラフィックを落とすことで、ターゲット個体数のモデル精度を著しく低下させることができることを示す。我々は,攻撃の影響を緩和するサーバサイドディフェンスを開発し,攻撃対象の精度に肯定的に寄与する可能性のあるクライアントを特定し,アップサンプリングすることで,攻撃の影響を緩和する。
参考スコア（独自算出の注目度）: 21.222645649379672
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Federated learning is a popular strategy for training models on distributed, sensitive data, while preserving data privacy. Prior work identified a range of security threats on federated learning protocols that poison the data or the model. However, federated learning is a networked system where the communication between clients and server plays a critical role for the learning task performance. We highlight how communication introduces another vulnerability surface in federated learning and study the impact of network-level adversaries on training federated learning models. We show that attackers dropping the network traffic from carefully selected clients can significantly decrease model accuracy on a target population. Moreover, we show that a coordinated poisoning campaign from a few clients can amplify the dropping attacks. Finally, we develop a server-side defense which mitigates the impact of our attacks by identifying and up-sampling clients likely to positively contribute towards target accuracy. We comprehensively evaluate our attacks and defenses on three datasets, assuming encrypted communication channels and attackers with partial visibility of the network.
Abstract（参考訳）: フェデレートラーニング(Federated Learning)は、データプライバシを保護しながら、分散された機密データ上でモデルをトレーニングする一般的な戦略である。以前の研究では、データやモデルを汚染する連合学習プロトコルに対する、さまざまなセキュリティ上の脅威を特定した。しかし,フェデレーション学習は,クライアントとサーバ間のコミュニケーションが学習タスクのパフォーマンスに重要な役割を果たすネットワークシステムである。我々は,フェデレーション学習において,コミュニケーションが新たな脆弱性面を導入し,フェデレーション学習モデルのトレーニングに対するネットワークレベルの敵の影響について検討する。攻撃者が慎重に選択したクライアントからネットワークトラフィックを落とせば、ターゲット人口のモデル精度が著しく低下する。さらに,数社のクライアントによる協調的な毒殺キャンペーンが,落下攻撃を増幅できることを実証する。最後に,ターゲットの精度に積極的に寄与する可能性のあるクライアントを特定し,アップサンプリングすることで,攻撃の影響を軽減するサーバ側防御を開発する。我々は,暗号化された通信チャネルとネットワークの可視性を有する攻撃者を想定し,3つのデータセットに対する攻撃と防御を包括的に評価する。

関連論文リスト

Robust Federated Learning Mitigates Client-side Training Data Distribution Inference Attacks [48.70867241987739]
InferGuardは、クライアント側のトレーニングデータ分散推論攻撃に対する防御を目的とした、新しいビザンチン・ロバスト集約ルールである。実験の結果,我々の防衛機構はクライアント側のトレーニングデータ分布推定攻撃に対する防御に極めて有効であることが示唆された。
論文参考訳（メタデータ） (2024-03-05T17:41:35Z)
Client-side Gradient Inversion Against Federated Learning from Poisoning [59.74484221875662]
フェデレートラーニング(FL)により、分散参加者は、データを中央サーバに直接共有することなく、グローバルモデルをトレーニングできる。近年の研究では、FLは元のトレーニングサンプルの再構築を目的とした勾配反転攻撃(GIA)に弱いことが判明している。本稿では,クライアント側から起動可能な新たな攻撃手法であるクライアント側中毒性グレーディエント・インバージョン(CGI)を提案する。
論文参考訳（メタデータ） (2023-09-14T03:48:27Z)
FedDefender: Client-Side Attack-Tolerant Federated Learning [60.576073964874]
フェデレーション学習は、プライバシを損なうことなく、分散化されたデータソースからの学習を可能にする。悪意のあるクライアントがトレーニングプロセスに干渉する、毒殺攻撃のモデル化には脆弱である。我々はFedDefenderと呼ばれるクライアントサイドに焦点を当てた新しい防御機構を提案し、クライアントの堅牢なローカルモデルのトレーニングを支援する。
論文参考訳（メタデータ） (2023-07-18T08:00:41Z)
Characterizing Internal Evasion Attacks in Federated Learning [12.873984200814533]
フェデレートされた学習は、クライアントが機械学習モデルを共同でトレーニングすることを可能にする。クライアントのモデルは、トレーニングとテストフェーズにおける攻撃に対して脆弱である。本稿では,「内部回避攻撃」を行う敵クライアントの問題に対処する。
論文参考訳（メタデータ） (2022-09-17T21:46:38Z)
Truth Serum: Poisoning Machine Learning Models to Reveal Their Secrets [53.866927712193416]
トレーニングデータセットを有害にすることができる敵が、このデータセットでトレーニングされたモデルに、他の当事者のプライベート詳細を漏洩させる可能性があることを示す。私たちの攻撃は、メンバーシップ推論、属性推論、データ抽出に効果的です。私たちの結果は、機械学習のためのマルチパーティプロトコルにおける暗号化プライバシ保証の関連性に疑問を投げかけました。
論文参考訳（メタデータ） (2022-03-31T18:06:28Z)
Attribute Inference Attack of Speech Emotion Recognition in Federated Learning Settings [56.93025161787725]
Federated Learning(FL)は、クライアントをコーディネートして、ローカルデータを共有せずにモデルを協調的にトレーニングする分散機械学習パラダイムである。本稿では,共有勾配やモデルパラメータからクライアントの機密属性情報を推測する属性推論攻撃フレームワークを提案する。 FLを用いて学習したSERシステムに対して,属性推論攻撃が達成可能であることを示す。
論文参考訳（メタデータ） (2021-12-26T16:50:42Z)
UnSplit: Data-Oblivious Model Inversion, Model Stealing, and Label Inference Attacks Against Split Learning [0.0]
Split Learningフレームワークは、モデルをクライアントとサーバ間で分割することを目的としている。分割学習パラダイムは深刻なセキュリティリスクを生じさせ,セキュリティの誤った感覚以上のものを提供しないことを示す。
論文参考訳（メタデータ） (2021-08-20T07:39:16Z)
Curse or Redemption? How Data Heterogeneity Affects the Robustness of Federated Learning [51.15273664903583]
データの不均一性は、フェデレートラーニングにおける重要な特徴の1つとして認識されているが、しばしば敵対的攻撃に対する堅牢性のレンズで見過ごされる。本稿では, 複合学習におけるバックドア攻撃の影響を, 総合的な実験を通じて評価し, 理解することを目的とした。
論文参考訳（メタデータ） (2021-02-01T06:06:21Z)
Unleashing the Tiger: Inference Attacks on Split Learning [2.492607582091531]
クライアントのプライベートトレーニングセットの再構築を目的とした汎用的な攻撃戦略を導入する。悪意のあるサーバは、分散モデルの学習プロセスを積極的にハイジャックすることができる。我々は、最近提案された防御手法を克服できることを実証する。
論文参考訳（メタデータ） (2020-12-04T15:41:00Z)
Dynamic Defense Against Byzantine Poisoning Attacks in Federated Learning [11.117880929232575]
フェデレート・ラーニングはビザチンによる敵対的な攻撃に弱い。本稿では,これらのクライアントを動的に破棄する動的集約演算子を提案する。その結果,集約するクライアントの動的選択により,グローバル学習モデルの性能が向上することが示唆された。
論文参考訳（メタデータ） (2020-07-29T18:02:11Z)
A Framework for Evaluating Gradient Leakage Attacks in Federated Learning [14.134217287912008]
Federated Learning(FL)は、クライアントのネットワークと協調的なモデルトレーニングのための、新興の分散機械学習フレームワークである。最近の研究では、クライアントからフェデレーションサーバにローカルパラメータの更新を共有しても、グラデーションリーク攻撃の影響を受けやすいことが示されている。本稿では,クライアントプライバシ漏洩攻撃のさまざまな形態の評価と比較を行うための原則的フレームワークを提案する。
論文参考訳（メタデータ） (2020-04-22T05:15:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。