論文の概要: FedTruth: Byzantine-Robust and Backdoor-Resilient Federated Learning Framework

• arxiv url: http://arxiv.org/abs/2311.10248v1
• Date: Fri, 17 Nov 2023 00:39:59 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-22 15:11:31.454541
• Title: FedTruth: Byzantine-Robust and Backdoor-Resilient Federated Learning Framework
• Title（参考訳）: FedTruth: Byzantine-Robustとバックドアレジリエントなフェデレーションラーニングフレームワーク
• Authors: Sheldon C. Ebron Jr. and Kan Yang
• Abstract要約: フェデレートラーニング(FL)は、生データを共有することなく、複数のパーティ間で協調的な機械学習モデルのトレーニングを可能にする。 FLの分散した性質により、悪意のあるクライアントはビザンティンまたはバックドア攻撃によるモデルトレーニングに影響を与えることができる。 我々はFLにおけるモデル中毒に対する堅牢な防御であるFedTruthを紹介した。
• 参考スコア（独自算出の注目度）: 2.7195102129095003
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Federated Learning (FL) enables collaborative machine learning model training across multiple parties without sharing raw data. However, FL's distributed nature allows malicious clients to impact model training through Byzantine or backdoor attacks, using erroneous model updates. Existing defenses measure the deviation of each update from a 'ground-truth model update.' They often rely on a benign root dataset on the server or use trimmed mean or median for clipping, both methods having limitations. We introduce FedTruth, a robust defense against model poisoning in FL. FedTruth doesn't assume specific data distributions nor requires a benign root dataset. It estimates a global model update with dynamic aggregation weights, considering contributions from all benign clients. Empirical studies demonstrate FedTruth's efficacy in mitigating the impacts of poisoned updates from both Byzantine and backdoor attacks.
• Abstract（参考訳）: フェデレーション学習(fl)は、生データを共有することなく、複数のパーティ間で協調的な機械学習モデルトレーニングを可能にする。 しかし、flの分散性により、悪意のあるクライアントは、誤ったモデル更新を使用して、ビザンチンまたはバックドア攻撃によるモデルのトレーニングに影響を与えることができる。 既存の防衛策は、各更新のずれを「地平モデル更新」から計測する。 彼らはしばしばサーバ上の良質なルートデータセットに依存するか、クリッピングにトリミング平均または中央値を使用する。 我々はFLにおけるモデル中毒に対する堅牢な防御であるFedTruthを紹介する。 FedTruthは特定のデータ分散を前提とせず、良質なルートデータセットも必要としない。 全クライアントからのコントリビューションを考慮して、動的集約重み付きグローバルモデル更新を推定する。 実証的な研究は、ビザンチンとバックドアの両方の攻撃による有毒な更新の影響を緩和するフェドルートの効果を示している。

関連論文リスト

• Concealing Backdoor Model Updates in Federated Learning by Trigger-Optimized Data Poisoning [20.69655306650485]
  Federated Learning(FL)は、参加者がプライベートデータを共有せずに、協力的にモデルをトレーニングできる分散型機械学習手法である。 プライバシーとスケーラビリティの利点にもかかわらず、FLはバックドア攻撃の影響を受けやすい。 本稿では,バックドアトリガの最適化によりバックドア目標を動的に構築する,FLのバックドア攻撃戦略であるDPOTを提案する。
  論文  参考訳（メタデータ） (2024-05-10T02:44:25Z)
• FreqFed: A Frequency Analysis-Based Approach for Mitigating Poisoning Attacks in Federated Learning [98.43475653490219]
  フェデレート・ラーニング(Federated Learning, FL)は、毒素による攻撃を受けやすい。 FreqFedは、モデルの更新を周波数領域に変換する新しいアグリゲーションメカニズムである。 FreqFedは, 凝集モデルの有用性に悪影響を及ぼすことなく, 毒性攻撃を効果的に軽減できることを実証した。
  論文  参考訳（メタデータ） (2023-12-07T16:56:24Z)
• Mitigating Cross-client GANs-based Attack in Federated Learning [78.06700142712353]
  マルチ分散マルチメディアクライアントは、グローバル共有モデルの共同学習のために、フェデレートラーニング(FL)を利用することができる。 FLは、GAN(C-GANs)をベースとしたクロスクライアント・ジェネレーティブ・敵ネットワーク(GANs)攻撃に苦しむ。 C-GAN攻撃に抵抗する現在のFLスキームを改善するためのFed-EDKD手法を提案する。
  論文  参考訳（メタデータ） (2023-07-25T08:15:55Z)
• FedDefender: Client-Side Attack-Tolerant Federated Learning [60.576073964874]
  フェデレーション学習は、プライバシを損なうことなく、分散化されたデータソースからの学習を可能にする。 悪意のあるクライアントがトレーニングプロセスに干渉する、毒殺攻撃のモデル化には脆弱である。 我々はFedDefenderと呼ばれるクライアントサイドに焦点を当てた新しい防御機構を提案し、クライアントの堅牢なローカルモデルのトレーニングを支援する。
  論文  参考訳（メタデータ） (2023-07-18T08:00:41Z)
• BayBFed: Bayesian Backdoor Defense for Federated Learning [17.433543798151746]
  フェデレートラーニング(FL)は、参加者がプライベートデータを他の人と共有することなく、機械学習モデルを共同でトレーニングすることを可能にする。 BayBFed は FL の悪意のある更新を検出するために,クライアント更新による確率分布の利用を提案する。
  論文  参考訳（メタデータ） (2023-01-23T16:01:30Z)
• FLIP: A Provable Defense Framework for Backdoor Mitigation in Federated Learning [66.56240101249803]
  我々は,クライアントの強固化がグローバルモデル(および悪意のあるクライアント)に与える影響について検討する。 本稿では, 逆エンジニアリングによる防御手法を提案するとともに, 堅牢性を保証して, 改良を実現できることを示す。 競合する8つのSOTA防御法について, 単発および連続のFLバックドア攻撃に対して, 提案手法の実証的優位性を示した。
  論文  参考訳（メタデータ） (2022-10-23T22:24:03Z)
• FL-Defender: Combating Targeted Attacks in Federated Learning [7.152674461313707]
  フェデレートラーニング(FL)は、グローバル機械学習モデルを、参加する労働者のセット間で分散されたローカルデータから学習することを可能にする。 FLは、学習モデルの完全性に悪影響を及ぼす標的の毒殺攻撃に対して脆弱である。 FL標的攻撃に対抗する手段として,textitFL-Defenderを提案する。
  論文  参考訳（メタデータ） (2022-07-02T16:04:46Z)
• Robust Quantity-Aware Aggregation for Federated Learning [72.59915691824624]
  悪意のあるクライアントは、モデル更新を害し、モデルアグリゲーションにおけるモデル更新の影響を増幅するために大量の要求を行う。 FLの既存の防御メソッドは、悪意のあるモデル更新を処理する一方で、すべての量の良性を扱うか、単にすべてのクライアントの量を無視/停止するだけである。 本稿では,フェデレーション学習のためのロバストな量認識アグリゲーションアルゴリズムであるFedRAを提案し,局所的なデータ量を認識してアグリゲーションを行う。
  論文  参考訳（メタデータ） (2022-05-22T15:13:23Z)
• Do Gradient Inversion Attacks Make Federated Learning Unsafe? [70.0231254112197]
  フェデレートラーニング(FL)は、生データを共有することなく、AIモデルの協調トレーニングを可能にする。 モデル勾配からのディープニューラルネットワークの反転に関する最近の研究は、トレーニングデータの漏洩を防止するためのFLの安全性に関する懸念を提起した。 本研究では,本論文で提示されたこれらの攻撃が実際のFLユースケースでは実行不可能であることを示し,新たなベースライン攻撃を提供する。
  論文  参考訳（メタデータ） (2022-02-14T18:33:12Z)
• DeepSight: Mitigating Backdoor Attacks in Federated Learning Through Deep Model Inspection [26.593268413299228]
  フェデレートラーニング(FL)では、複数のクライアントが、データを公開せずに、プライベートデータ上でニューラルネットワーク(NN)モデルを協調的にトレーニングすることができる。 DeepSightは、バックドア攻撃を緩和するための新しいモデルフィルタリングアプローチである。 モデルの性能に悪影響を及ぼすことなく、最先端のバックドア攻撃を軽減できることを示す。
  論文  参考訳（メタデータ） (2022-01-03T17:10:07Z)
• TESSERACT: Gradient Flip Score to Secure Federated Learning Against Model Poisoning Attacks [25.549815759093068]
  フェデレート学習は、モデル中毒攻撃に対して脆弱である。 これは、悪意のあるクライアントが、グローバルなモデルを不正確なものにするためです。 我々は、この指向的偏差攻撃に対する防御であるTESSERACTを開発する。
  論文  参考訳（メタデータ） (2021-10-19T17:03:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。