Fugu-MT 論文翻訳(概要): Identifying the Truth of Global Model: A Generic Solution to Defend Against Byzantine and Backdoor Attacks in Federated Learning (full version)

論文の概要: Identifying the Truth of Global Model: A Generic Solution to Defend Against Byzantine and Backdoor Attacks in Federated Learning (full version)

arxiv url: http://arxiv.org/abs/2311.10248v2
Date: Mon, 10 Mar 2025 18:37:26 GMT
ステータス: 翻訳完了
システム内更新日: 2025-03-12 15:40:56.001091
Title: Identifying the Truth of Global Model: A Generic Solution to Defend Against Byzantine and Backdoor Attacks in Federated Learning (full version)
Title（参考訳）: グローバルモデルの真相を識別する:フェデレートラーニングにおけるビザンチンとバックドアアタックを防御するためのジェネリックソリューション(フルバージョン)
Authors: Sheldon C. Ebron, Meiying Zhang, Kan Yang,
Abstract要約: フェデレートラーニング(FL)は、複数のパーティが生のトレーニングデータを共有せずに、機械学習モデルを協調的にトレーニングすることを可能にする。悪意のあるクライアントは、Byzantineまたはバックドア攻撃を介してエラーモデルのアップデートを注入することで、トレーニングされたモデルに影響を与えることができる。本稿では,FLにおけるモデル中毒に対する防御策として,FedTruthを提案する。
参考スコア（独自算出の注目度）: 4.956709222278243
License:
Abstract: Federated Learning (FL) enables multiple parties to train machine learning models collaboratively without sharing the raw training data. However, the federated nature of FL enables malicious clients to influence a trained model by injecting error model updates via Byzantine or backdoor attacks. To detect malicious model updates, a typical approach is to measure the distance between each model update and a \textit{ground-truth model update}. To find such \textit{ground-truth model updates}, existing defenses either require a benign root dataset on the server (e.g., FLTrust) or simply use trimmed mean or median as the threshold for clipping (e.g., FLAME). However, such benign root datasets are impractical, and the trimmed mean or median may also eliminate contributions from these underrepresented datasets. In this paper, we propose a generic solution, namely FedTruth, to defend against model poisoning attacks in FL, where the \textit{ground-truth model update} (i.e., the global model update) will be estimated among all the model updates with dynamic aggregation weights. Specifically, FedTruth does not have specific assumptions on the benign or malicious data distribution or access to a benign root dataset. Moreover, FedTruth considers the potential contributions from all benign clients. Our empirical results show that FedTruth can reduce the impacts of poisoned model updates against both Byzantine and backdoor attacks, and is also efficient in large-scale FL systems.
Abstract（参考訳）: フェデレートラーニング(FL)は、複数のパーティが生のトレーニングデータを共有せずに、機械学習モデルを協調的にトレーニングすることを可能にする。しかし、FLのフェデレートされた性質により、悪意のあるクライアントは、ビザンティンまたはバックドアアタックを介してエラーモデルのアップデートを注入することで、トレーニングされたモデルに影響を与えることができる。悪意のあるモデル更新を検出するために、典型的なアプローチは、各モデル更新と \textit{ground-truth model update}の間の距離を測定することである。このような‘textit{ground-truth model update}’を見つけるには、既存のディフェンスでは、サーバ上の良質なルートデータセット(例えば、FLTrust)を必要とするか、クリッピングのしきい値(例えば、FLAME)としてトリミング平均または中央値を使用するだけでよい。しかし、このような良質な根のデータセットは非現実的であり、トリミングされた平均または中央値は、これらの未表現のデータセットからの貢献も排除する可能性がある。本稿では,FedTruthという汎用的手法を用いて,FLにおけるモデル中毒に対する防御を行う。そこでは,動的凝集重み付きモデル更新のうち, \textit{ground-truth model update} (グローバルモデル更新) を推定する。具体的には、FedTruthは、良性または悪意のあるデータ配布や良性のあるルートデータセットへのアクセスに関する具体的な仮定を持っていない。さらにFedTruth氏は、すべての良心的なクライアントからの潜在的貢献について検討している。実験の結果,FedTruthはByzantineおよびバックドア攻撃に対する有毒モデル更新の影響を低減し,大規模FLシステムでも有効であることがわかった。

関連論文リスト

Concealing Backdoor Model Updates in Federated Learning by Trigger-Optimized Data Poisoning [20.69655306650485]
Federated Learning(FL)は、参加者がプライベートデータを共有せずに、協力的にモデルをトレーニングできる分散型機械学習手法である。プライバシーとスケーラビリティの利点にもかかわらず、FLはバックドア攻撃の影響を受けやすい。本稿では,バックドアトリガの最適化によりバックドア目標を動的に構築する,FLのバックドア攻撃戦略であるDPOTを提案する。
論文参考訳（メタデータ） (2024-05-10T02:44:25Z)
FreqFed: A Frequency Analysis-Based Approach for Mitigating Poisoning Attacks in Federated Learning [98.43475653490219]
フェデレート・ラーニング(Federated Learning, FL)は、毒素による攻撃を受けやすい。 FreqFedは、モデルの更新を周波数領域に変換する新しいアグリゲーションメカニズムである。 FreqFedは, 凝集モデルの有用性に悪影響を及ぼすことなく, 毒性攻撃を効果的に軽減できることを実証した。
論文参考訳（メタデータ） (2023-12-07T16:56:24Z)
Mitigating Cross-client GANs-based Attack in Federated Learning [78.06700142712353]
マルチ分散マルチメディアクライアントは、グローバル共有モデルの共同学習のために、フェデレートラーニング(FL)を利用することができる。 FLは、GAN(C-GANs)をベースとしたクロスクライアント・ジェネレーティブ・敵ネットワーク(GANs)攻撃に苦しむ。 C-GAN攻撃に抵抗する現在のFLスキームを改善するためのFed-EDKD手法を提案する。
論文参考訳（メタデータ） (2023-07-25T08:15:55Z)
FedDefender: Client-Side Attack-Tolerant Federated Learning [60.576073964874]
フェデレーション学習は、プライバシを損なうことなく、分散化されたデータソースからの学習を可能にする。悪意のあるクライアントがトレーニングプロセスに干渉する、毒殺攻撃のモデル化には脆弱である。我々はFedDefenderと呼ばれるクライアントサイドに焦点を当てた新しい防御機構を提案し、クライアントの堅牢なローカルモデルのトレーニングを支援する。
論文参考訳（メタデータ） (2023-07-18T08:00:41Z)
BayBFed: Bayesian Backdoor Defense for Federated Learning [17.433543798151746]
フェデレートラーニング(FL)は、参加者がプライベートデータを他の人と共有することなく、機械学習モデルを共同でトレーニングすることを可能にする。 BayBFed は FL の悪意のある更新を検出するために,クライアント更新による確率分布の利用を提案する。
論文参考訳（メタデータ） (2023-01-23T16:01:30Z)
FLIP: A Provable Defense Framework for Backdoor Mitigation in Federated Learning [66.56240101249803]
我々は,クライアントの強固化がグローバルモデル(および悪意のあるクライアント)に与える影響について検討する。本稿では, 逆エンジニアリングによる防御手法を提案するとともに, 堅牢性を保証して, 改良を実現できることを示す。競合する8つのSOTA防御法について, 単発および連続のFLバックドア攻撃に対して, 提案手法の実証的優位性を示した。
論文参考訳（メタデータ） (2022-10-23T22:24:03Z)
FL-Defender: Combating Targeted Attacks in Federated Learning [7.152674461313707]
フェデレートラーニング(FL)は、グローバル機械学習モデルを、参加する労働者のセット間で分散されたローカルデータから学習することを可能にする。 FLは、学習モデルの完全性に悪影響を及ぼす標的の毒殺攻撃に対して脆弱である。 FL標的攻撃に対抗する手段として,textitFL-Defenderを提案する。
論文参考訳（メタデータ） (2022-07-02T16:04:46Z)
Robust Quantity-Aware Aggregation for Federated Learning [72.59915691824624]
悪意のあるクライアントは、モデル更新を害し、モデルアグリゲーションにおけるモデル更新の影響を増幅するために大量の要求を行う。 FLの既存の防御メソッドは、悪意のあるモデル更新を処理する一方で、すべての量の良性を扱うか、単にすべてのクライアントの量を無視/停止するだけである。本稿では,フェデレーション学習のためのロバストな量認識アグリゲーションアルゴリズムであるFedRAを提案し,局所的なデータ量を認識してアグリゲーションを行う。
論文参考訳（メタデータ） (2022-05-22T15:13:23Z)
Do Gradient Inversion Attacks Make Federated Learning Unsafe? [70.0231254112197]
フェデレートラーニング(FL)は、生データを共有することなく、AIモデルの協調トレーニングを可能にする。モデル勾配からのディープニューラルネットワークの反転に関する最近の研究は、トレーニングデータの漏洩を防止するためのFLの安全性に関する懸念を提起した。本研究では,本論文で提示されたこれらの攻撃が実際のFLユースケースでは実行不可能であることを示し,新たなベースライン攻撃を提供する。
論文参考訳（メタデータ） (2022-02-14T18:33:12Z)
DeepSight: Mitigating Backdoor Attacks in Federated Learning Through Deep Model Inspection [26.593268413299228]
フェデレートラーニング(FL)では、複数のクライアントが、データを公開せずに、プライベートデータ上でニューラルネットワーク(NN)モデルを協調的にトレーニングすることができる。 DeepSightは、バックドア攻撃を緩和するための新しいモデルフィルタリングアプローチである。モデルの性能に悪影響を及ぼすことなく、最先端のバックドア攻撃を軽減できることを示す。
論文参考訳（メタデータ） (2022-01-03T17:10:07Z)
TESSERACT: Gradient Flip Score to Secure Federated Learning Against Model Poisoning Attacks [25.549815759093068]
フェデレート学習は、モデル中毒攻撃に対して脆弱である。これは、悪意のあるクライアントが、グローバルなモデルを不正確なものにするためです。我々は、この指向的偏差攻撃に対する防御であるTESSERACTを開発する。
論文参考訳（メタデータ） (2021-10-19T17:03:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。