論文の概要: Characterizing Internal Evasion Attacks in Federated Learning

• arxiv url: http://arxiv.org/abs/2209.08412v3
• Date: Sat, 21 Oct 2023 03:17:01 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-25 14:45:02.586373
• Title: Characterizing Internal Evasion Attacks in Federated Learning
• Title（参考訳）: 連合学習における内部回避攻撃の特徴
• Authors: Taejin Kim, Shubhranshu Singh, Nikhil Madaan and Carlee Joe-Wong
• Abstract要約: フェデレートされた学習は、クライアントが機械学習モデルを共同でトレーニングすることを可能にする。 クライアントのモデルは、トレーニングとテストフェーズにおける攻撃に対して脆弱である。 本稿では,「内部回避攻撃」を行う敵クライアントの問題に対処する。
• 参考スコア（独自算出の注目度）: 12.873984200814533
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Federated learning allows for clients in a distributed system to jointly train a machine learning model. However, clients' models are vulnerable to attacks during the training and testing phases. In this paper, we address the issue of adversarial clients performing "internal evasion attacks": crafting evasion attacks at test time to deceive other clients. For example, adversaries may aim to deceive spam filters and recommendation systems trained with federated learning for monetary gain. The adversarial clients have extensive information about the victim model in a federated learning setting, as weight information is shared amongst clients. We are the first to characterize the transferability of such internal evasion attacks for different learning methods and analyze the trade-off between model accuracy and robustness depending on the degree of similarities in client data. We show that adversarial training defenses in the federated learning setting only display limited improvements against internal attacks. However, combining adversarial training with personalized federated learning frameworks increases relative internal attack robustness by 60% compared to federated adversarial training and performs well under limited system resources.
• Abstract（参考訳）: フェデレートされた学習により、分散システム内のクライアントは、機械学習モデルの共同トレーニングが可能になる。 しかし、クライアントのモデルは、トレーニングおよびテストフェーズにおける攻撃に対して脆弱である。 本稿では,他のクライアントを騙すために,テスト時に回避攻撃を行う「内部回避攻撃」を行う敵クライアントの問題に対処する。 例えば、敵はスパムフィルタや、フェデレート学習で訓練されたレコメンデーションシステムを騙して金銭的利益を得る。 相手クライアントは、クライアント間で重み情報を共有するため、連合学習環境において被害者モデルに関する広範な情報を有する。 我々は,このような内部回避攻撃の伝達性を,異なる学習法で特徴付け,クライアントデータの類似度に応じてモデル精度とロバスト性とのトレードオフを解析した。 フェデレーション学習環境における敵の訓練防御は,内部攻撃に対する限定的な改善しか示さない。 しかしながら、敵意トレーニングと個人化された連合学習フレームワークを組み合わせることで、敵意トレーニングに比べて相対的な内部攻撃の堅牢性が60%向上し、限られたシステムリソース下ではうまく機能する。

関連論文リスト

• Robust Federated Learning Mitigates Client-side Training Data Distribution Inference Attacks [48.70867241987739]
  InferGuardは、クライアント側のトレーニングデータ分散推論攻撃に対する防御を目的とした、新しいビザンチン・ロバスト集約ルールである。 実験の結果,我々の防衛機構はクライアント側のトレーニングデータ分布推定攻撃に対する防御に極めて有効であることが示唆された。
  論文  参考訳（メタデータ） (2024-03-05T17:41:35Z)
• FedBayes: A Zero-Trust Federated Learning Aggregation to Defend Against Adversarial Attacks [1.689369173057502]
  フェデレートラーニング(Federated Learning)は、クライアントデータに直接アクセスすることなく、マシンラーニングモデルをトレーニングする分散メソッドを開発した。 悪意のあるクライアントは、グローバルモデルを破壊し、フェデレーション内のすべてのクライアントのパフォーマンスを低下させることができる。 新たなアグリゲーション手法であるFedBayesは、クライアントのモデル重みの確率を計算することにより、悪意のあるクライアントの効果を緩和する。
  論文  参考訳（メタデータ） (2023-12-04T21:37:50Z)
• Client-side Gradient Inversion Against Federated Learning from Poisoning [59.74484221875662]
  フェデレートラーニング(FL)により、分散参加者は、データを中央サーバに直接共有することなく、グローバルモデルをトレーニングできる。 近年の研究では、FLは元のトレーニングサンプルの再構築を目的とした勾配反転攻撃(GIA)に弱いことが判明している。 本稿では,クライアント側から起動可能な新たな攻撃手法であるクライアント側中毒性グレーディエント・インバージョン(CGI)を提案する。
  論文  参考訳（メタデータ） (2023-09-14T03:48:27Z)
• FedDefender: Client-Side Attack-Tolerant Federated Learning [60.576073964874]
  フェデレーション学習は、プライバシを損なうことなく、分散化されたデータソースからの学習を可能にする。 悪意のあるクライアントがトレーニングプロセスに干渉する、毒殺攻撃のモデル化には脆弱である。 我々はFedDefenderと呼ばれるクライアントサイドに焦点を当てた新しい防御機構を提案し、クライアントの堅牢なローカルモデルのトレーニングを支援する。
  論文  参考訳（メタデータ） (2023-07-18T08:00:41Z)
• Combating Exacerbated Heterogeneity for Robust Models in Federated Learning [91.88122934924435]
  対人訓練と連合学習の組み合わせは、望ましくない頑丈さの劣化につながる可能性がある。 我々は、Slack Federated Adversarial Training (SFAT)と呼ばれる新しいフレームワークを提案する。 各種ベンチマークおよび実世界のデータセットに対するSFATの合理性と有効性を検証する。
  論文  参考訳（メタデータ） (2023-03-01T06:16:15Z)
• FLCert: Provably Secure Federated Learning against Poisoning Attacks [67.8846134295194]
  FLCertは、有毒な攻撃に対して確実に安全であるアンサンブル・フェデレート学習フレームワークである。 実験の結果,テスト入力に対するFLCertで予測されたラベルは,有意な数の悪意のあるクライアントによって影響を受けないことが判明した。
  論文  参考訳（メタデータ） (2022-10-02T17:50:04Z)
• Network-Level Adversaries in Federated Learning [21.222645649379672]
  ネットワークレベルの敵がフェデレーション学習モデルの訓練に与える影響について検討する。 攻撃者は、慎重に選択されたクライアントからネットワークトラフィックを落とすことで、ターゲット個体数のモデル精度を著しく低下させることができることを示す。 我々は,攻撃の影響を緩和するサーバサイドディフェンスを開発し,攻撃対象の精度に肯定的に寄与する可能性のあるクライアントを特定し,アップサンプリングすることで,攻撃の影響を緩和する。
  論文  参考訳（メタデータ） (2022-08-27T02:42:04Z)
• Certified Robustness in Federated Learning [54.03574895808258]
  我々は,フェデレーショントレーニングとパーソナライゼーション,および認定ロバストネスの相互作用について検討した。 単純なフェデレーション平均化技術は, より正確であるだけでなく, より精度の高いロバストモデルの構築にも有効であることがわかった。
  論文  参考訳（メタデータ） (2022-06-06T12:10:53Z)
• Ensemble Federated Adversarial Training with Non-IID data [1.5878082907673585]
  敵対的なサンプルは、悪意のある目的を達成するためにクライアントモデルを混乱させ、騙すことができます。 本稿では, EFAT(Ensemble Federated Adversarial Training Method)について紹介する。 提案手法は,フェデレーション学習と敵対的アプローチを単独で組み合わせた場合と比較して,有望な結果が得られる。
  論文  参考訳（メタデータ） (2021-10-26T03:55:20Z)
• Dynamic Defense Against Byzantine Poisoning Attacks in Federated Learning [11.117880929232575]
  フェデレート・ラーニングはビザチンによる敵対的な攻撃に弱い。 本稿では,これらのクライアントを動的に破棄する動的集約演算子を提案する。 その結果,集約するクライアントの動的選択により,グローバル学習モデルの性能が向上することが示唆された。
  論文  参考訳（メタデータ） (2020-07-29T18:02:11Z)
• A Framework for Evaluating Gradient Leakage Attacks in Federated Learning [14.134217287912008]
  Federated Learning(FL)は、クライアントのネットワークと協調的なモデルトレーニングのための、新興の分散機械学習フレームワークである。 最近の研究では、クライアントからフェデレーションサーバにローカルパラメータの更新を共有しても、グラデーションリーク攻撃の影響を受けやすいことが示されている。 本稿では,クライアントプライバシ漏洩攻撃のさまざまな形態の評価と比較を行うための原則的フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-04-22T05:15:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。