論文の概要: Avoid Adversarial Adaption in Federated Learning by Multi-Metric Investigations

• arxiv url: http://arxiv.org/abs/2306.03600v1
• Date: Tue, 6 Jun 2023 11:44:42 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-07 15:43:57.552512
• Title: Avoid Adversarial Adaption in Federated Learning by Multi-Metric Investigations
• Title（参考訳）: 多段階調査によるフェデレーション学習における適応回避
• Authors: Torsten Krau{\ss} (1) and Alexandra Dmitrienko (1) ((1) University of W\"urzburg)
• Abstract要約: フェデレートラーニング(FL)は、複数のデバイスに分散したデータ上の機械学習モデルをトレーニングする。 FLは、モデルの性能を下げたり、いわゆるバックドアを狙ったりするための攻撃を未然に防ぐことができる。 MESASは、毒殺されたモデルの更新をフィルタリングするために、複数の検出メトリクスを同時に活用する新しいディフェンスである。
• 参考スコア（独自算出の注目度）: 77.34726150561087
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Federated Learning (FL) trains machine learning models on data distributed across multiple devices, avoiding data transfer to a central location. This improves privacy, reduces communication costs, and enhances model performance. However, FL is prone to poisoning attacks, which can be untargeted aiming to reduce the model performance, or targeted, so-called backdoors, which add adversarial behavior that can be triggered with appropriately crafted inputs. Striving for stealthiness, backdoor attacks are harder to deal with. Mitigation techniques against poisoning attacks rely on monitoring certain metrics and filtering malicious model updates. However, previous works didn't consider real-world adversaries and data distributions. To support our statement, we define a new notion of strong adaptive adversaries that can simultaneously adapt to multiple objectives and demonstrate through extensive tests, that existing defense methods can be circumvented in this adversary model. We also demonstrate, that existing defenses have limited effectiveness when no assumptions are made about underlying data distributions. To address realistic scenarios and adversary models, we propose Metric-Cascades (MESAS) a new defense that leverages multiple detection metrics simultaneously for the filtering of poisoned model updates. This approach forces adaptive attackers into a heavy multi-objective optimization problem, and our evaluation with nine backdoors and three datasets shows that even our strong adaptive attacker cannot evade MESAS's detection. We show that MESAS outperforms existing defenses in distinguishing backdoors from distortions originating from different data distributions within and across the clients. Overall, MESAS is the first defense that is robust against strong adaptive adversaries and is effective in real-world data scenarios while introducing a low overhead of 24.37s on average.
• Abstract（参考訳）: federated learning(fl)は、複数のデバイスに分散したデータのマシンラーニングモデルをトレーニングし、中央の場所へのデータ転送を回避する。 これによりプライバシが向上し、通信コストが削減され、モデルパフォーマンスが向上する。 しかし、FLは、モデル性能の低下を狙った攻撃や、適切な入力によって引き起こされる敵の振る舞いを付加するいわゆるバックドアを標的にしない攻撃をしがちである。 秘密を守るために、バックドア攻撃は扱いにくい。 毒殺攻撃の緩和技術は、特定のメトリクスの監視と悪意のあるモデル更新のフィルタリングに依存している。 しかし、以前の作品は現実世界の敵やデータ配信を考慮しなかった。 この声明を支持するために,我々は,複数の目的に同時に適応し,広範囲なテストにより既存の防衛手法を回避できることを示す,強力な適応的敵の新たな概念を定義した。 また,既存の防御効果は,基礎となるデータ分布に関する仮定が存在しない場合に限定的に有効であることを示す。 現実的なシナリオや敵モデルに対処するために,有毒モデル更新のフィルタリングに複数の検出指標を同時に活用するMetric-Cascades (MESAS)を提案する。 本手法は, 適応攻撃者に対して, 重度多目的最適化問題に強制的に適用し, 9つのバックドアと3つのデータセットによる評価により, 強い適応攻撃者でさえMESASの検出を回避できないことを示す。 mesasは、クライアント内外の異なるデータ分布から生じる歪みとバックドアを区別する既存の防御を上回っている。 全体として、MESASは強力な適応敵に対して堅牢であり、平均24.37秒のオーバーヘッドを伴いながら現実世界のデータシナリオに有効である。

関連論文リスト

• Mitigating Malicious Attacks in Federated Learning via Confidence-aware Defense [3.685395311534351]
  Federated Learning(FL)は、分散機械学習ダイアグラムで、複数のクライアントがプライベートなローカルデータを共有せずに、グローバルモデルを協調的にトレーニングすることができる。 FLシステムは、データ中毒やモデル中毒を通じて悪意のあるクライアントで起こっている攻撃に対して脆弱である。 既存の防御方法は通常、特定の種類の中毒を緩和することに焦点を当てており、しばしば目に見えないタイプの攻撃に対して効果がない。
  論文  参考訳（メタデータ） (2024-08-05T20:27:45Z)
• FreqFed: A Frequency Analysis-Based Approach for Mitigating Poisoning Attacks in Federated Learning [98.43475653490219]
  フェデレート・ラーニング(Federated Learning, FL)は、毒素による攻撃を受けやすい。 FreqFedは、モデルの更新を周波数領域に変換する新しいアグリゲーションメカニズムである。 FreqFedは, 凝集モデルの有用性に悪影響を及ぼすことなく, 毒性攻撃を効果的に軽減できることを実証した。
  論文  参考訳（メタデータ） (2023-12-07T16:56:24Z)
• DODEM: DOuble DEfense Mechanism Against Adversarial Attacks Towards Secure Industrial Internet of Things Analytics [8.697883716452385]
  I-IoT環境における敵攻撃の検出と軽減のための二重防御機構を提案する。 まず、新規性検出アルゴリズムを用いて、サンプルに対して逆攻撃があるかどうかを検知する。 攻撃があった場合、敵の再訓練はより堅牢なモデルを提供する一方、通常のサンプルに対して標準的な訓練を適用する。
  論文  参考訳（メタデータ） (2023-01-23T22:10:40Z)
• FLIP: A Provable Defense Framework for Backdoor Mitigation in Federated Learning [66.56240101249803]
  我々は,クライアントの強固化がグローバルモデル(および悪意のあるクライアント)に与える影響について検討する。 本稿では, 逆エンジニアリングによる防御手法を提案するとともに, 堅牢性を保証して, 改良を実現できることを示す。 競合する8つのSOTA防御法について, 単発および連続のFLバックドア攻撃に対して, 提案手法の実証的優位性を示した。
  論文  参考訳（メタデータ） (2022-10-23T22:24:03Z)
• RelaxLoss: Defending Membership Inference Attacks without Losing Utility [68.48117818874155]
  より達成可能な学習目標を持つ緩和された損失に基づく新しい学習フレームワークを提案する。 RelaxLossは、簡単な実装と無視可能なオーバーヘッドのメリットを加えた任意の分類モデルに適用できる。 当社のアプローチはMIAに対するレジリエンスの観点から,常に最先端の防御機構より優れています。
  論文  参考訳（メタデータ） (2022-07-12T19:34:47Z)
• Model-Agnostic Meta-Attack: Towards Reliable Evaluation of Adversarial Robustness [53.094682754683255]
  モデル非依存型メタアタック(MAMA)アプローチにより,より強力な攻撃アルゴリズムを自動検出する。 本手法は、繰り返しニューラルネットワークによってパラメータ化された逆攻撃を学習する。 本研究では,未知の防御を攻撃した場合の学習能力を向上させるために,モデルに依存しない訓練アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2021-10-13T13:54:24Z)
• Delving into Data: Effectively Substitute Training for Black-box Attack [84.85798059317963]
  本稿では,知識盗むプロセスで使用されるデータの分散設計に焦点をあてた,新しい視点代替トレーニングを提案する。 これら2つのモジュールの組み合わせにより、代替モデルとターゲットモデルの一貫性がさらに向上し、敵攻撃の有効性が大幅に向上する。
  論文  参考訳（メタデータ） (2021-04-26T07:26:29Z)
• Mitigating the Impact of Adversarial Attacks in Very Deep Networks [10.555822166916705]
  Deep Neural Network (DNN)モデルにはセキュリティに関する脆弱性がある。 データ中毒による摂動攻撃は、モデルに偽データを注入する複雑な敵対攻撃である。 そこで本研究では,攻撃に依存しない防御手法を提案する。
  論文  参考訳（メタデータ） (2020-12-08T21:25:44Z)
• Improving Robustness to Model Inversion Attacks via Mutual Information Regularization [12.079281416410227]
  本稿では,モデル逆転攻撃に対する防御機構について検討する。 MIは、ターゲット機械学習モデルへのアクセスからトレーニングデータ配布に関する情報を推測することを目的とした、プライバシ攻撃の一種である。 我々はMI攻撃に対するMID(Multual Information Regularization based Defense)を提案する。
  論文  参考訳（メタデータ） (2020-09-11T06:02:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。