論文の概要: Runtime Backdoor Detection for Federated Learning via Representational Dissimilarity Analysis

• arxiv url: http://arxiv.org/abs/2503.04473v1
• Date: Thu, 06 Mar 2025 14:23:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-07 15:57:12.527559
• Title: Runtime Backdoor Detection for Federated Learning via Representational Dissimilarity Analysis
• Title（参考訳）: Representational Dissimilarity Analysis を用いたフェデレーション学習のための実行時バックドア検出
• Authors: Xiyue Zhang, Xiaoyong Xue, Xiaoning Du, Xiaofei Xie, Yang Liu, Meng Sun,
• Abstract要約: フェデレーションラーニング(FL)は、分散クライアントからモデル更新を集約することで、共有モデルをトレーニングする。 モデル学習をローカルデータから切り離すことで、FLはバックドア攻撃に対して非常に脆弱になる。 本稿では,悪意のあるクライアントを,正確で安定的で効率的な方法で検出する手法を提案する。
• 参考スコア（独自算出の注目度）: 24.56608572464567
• License:
• Abstract: Federated learning (FL), as a powerful learning paradigm, trains a shared model by aggregating model updates from distributed clients. However, the decoupling of model learning from local data makes FL highly vulnerable to backdoor attacks, where a single compromised client can poison the shared model. While recent progress has been made in backdoor detection, existing methods face challenges with detection accuracy and runtime effectiveness, particularly when dealing with complex model architectures. In this work, we propose a novel approach to detecting malicious clients in an accurate, stable, and efficient manner. Our method utilizes a sampling-based network representation method to quantify dissimilarities between clients, identifying model deviations caused by backdoor injections. We also propose an iterative algorithm to progressively detect and exclude malicious clients as outliers based on these dissimilarity measurements. Evaluations across a range of benchmark tasks demonstrate that our approach outperforms state-of-the-art methods in detection accuracy and defense effectiveness. When deployed for runtime protection, our approach effectively eliminates backdoor injections with marginal overheads.
• Abstract（参考訳）: 強力な学習パラダイムであるフェデレーション学習(FL)は、分散クライアントからモデル更新を集約することで、共有モデルをトレーニングする。 しかし、モデル学習をローカルデータから切り離すことで、FLはバックドア攻撃に対して非常に脆弱になり、単一の妥協されたクライアントが共有モデルに悪影響を及ぼす可能性がある。 バックドア検出では最近の進歩があるが、既存の手法では検出精度と実行時の有効性、特に複雑なモデルアーキテクチャを扱う場合の課題に直面している。 本研究では,悪意のあるクライアントを高精度かつ安定かつ効率的に検出する手法を提案する。 提案手法では, バックドアインジェクションによるモデル偏差を同定し, クライアント間の相違点を定量化するために, サンプリングに基づくネットワーク表現手法を用いる。 また,これらの異種性測定に基づいて,悪質なクライアントを段階的に検出・排除する反復アルゴリズムを提案する。 様々なベンチマークタスクに対する評価により,本手法は検出精度と防御効率において最先端の手法よりも優れていることが示された。 ランタイム保護のためにデプロイされた場合、我々のアプローチは、限界オーバーヘッドのあるバックドアインジェクションを効果的に排除する。

関連論文リスト

• Towards Robust Object Detection: Identifying and Removing Backdoors via Module Inconsistency Analysis [5.8634235309501435]
  オブジェクト検出モデルに適したバックドアディフェンスフレームワークを提案する。 不整合を定量化し解析することにより、バックドアを検出するアルゴリズムを開発する。 最先端の2段階物体検出器を用いた実験により, バックドア除去率の90%向上が得られた。
  論文  参考訳（メタデータ） (2024-09-24T12:58:35Z)
• BoBa: Boosting Backdoor Detection through Data Distribution Inference in Federated Learning [26.714674251814586]
  フェデレーテッド・ラーニングは、その分散した性質のため、毒殺の被害を受けやすい。 本稿では,この問題を解決するために,分布認識型異常検出機構であるBoBaを提案する。
  論文  参考訳（メタデータ） (2024-07-12T19:38:42Z)
• PeFAD: A Parameter-Efficient Federated Framework for Time Series Anomaly Detection [51.20479454379662]
  私たちはaを提案します。 フェデレートされた異常検出フレームワークであるPeFADは、プライバシーの懸念が高まっている。 我々は、4つの実際のデータセットに対して広範な評価を行い、PeFADは既存の最先端ベースラインを最大28.74%上回っている。
  論文  参考訳（メタデータ） (2024-06-04T13:51:08Z)
• FreqFed: A Frequency Analysis-Based Approach for Mitigating Poisoning Attacks in Federated Learning [98.43475653490219]
  フェデレート・ラーニング(Federated Learning, FL)は、毒素による攻撃を受けやすい。 FreqFedは、モデルの更新を周波数領域に変換する新しいアグリゲーションメカニズムである。 FreqFedは, 凝集モデルの有用性に悪影響を及ぼすことなく, 毒性攻撃を効果的に軽減できることを実証した。
  論文  参考訳（メタデータ） (2023-12-07T16:56:24Z)
• Shared Adversarial Unlearning: Backdoor Mitigation by Unlearning Shared Adversarial Examples [67.66153875643964]
  バックドア攻撃は、機械学習モデルに対する深刻なセキュリティ脅威である。 本稿では,小さなクリーンデータセットを用いて,バックドアモデルの浄化作業について検討する。 バックドアリスクと敵的リスクの関連性を確立することにより、バックドアリスクに対する新たな上限を導出する。
  論文  参考訳（メタデータ） (2023-07-20T03:56:04Z)
• Avoid Adversarial Adaption in Federated Learning by Multi-Metric Investigations [55.2480439325792]
  Federated Learning(FL)は、分散機械学習モデルのトレーニング、データのプライバシの保護、通信コストの低減、多様化したデータソースによるモデルパフォーマンスの向上を支援する。 FLは、中毒攻撃、標的外のパフォーマンス劣化とターゲットのバックドア攻撃の両方でモデルの整合性を損なうような脆弱性に直面している。 我々は、複数の目的に同時に適応できる、強い適応的敵の概念を新たに定義する。 MESASは、実際のデータシナリオで有効であり、平均オーバーヘッドは24.37秒である。
  論文  参考訳（メタデータ） (2023-06-06T11:44:42Z)
• BayBFed: Bayesian Backdoor Defense for Federated Learning [17.433543798151746]
  フェデレートラーニング(FL)は、参加者がプライベートデータを他の人と共有することなく、機械学習モデルを共同でトレーニングすることを可能にする。 BayBFed は FL の悪意のある更新を検出するために,クライアント更新による確率分布の利用を提案する。
  論文  参考訳（メタデータ） (2023-01-23T16:01:30Z)
• FLIP: A Provable Defense Framework for Backdoor Mitigation in Federated Learning [66.56240101249803]
  我々は,クライアントの強固化がグローバルモデル(および悪意のあるクライアント)に与える影響について検討する。 本稿では, 逆エンジニアリングによる防御手法を提案するとともに, 堅牢性を保証して, 改良を実現できることを示す。 競合する8つのSOTA防御法について, 単発および連続のFLバックドア攻撃に対して, 提案手法の実証的優位性を示した。
  論文  参考訳（メタデータ） (2022-10-23T22:24:03Z)
• BaFFLe: Backdoor detection via Feedback-based Federated Learning [3.6895394817068357]
  フィードバックに基づくフェデレーション学習(BAFFLE)によるバックドア検出を提案する。 BAFFLEは,最先端のバックドア攻撃を100%,偽陽性率5%以下で確実に検出できることを示す。
  論文  参考訳（メタデータ） (2020-11-04T07:44:51Z)
• Scalable Backdoor Detection in Neural Networks [61.39635364047679]
  ディープラーニングモデルは、トロイの木馬攻撃に対して脆弱で、攻撃者はトレーニング中にバックドアをインストールして、結果のモデルが小さなトリガーパッチで汚染されたサンプルを誤識別させる。 本稿では,ラベル数と計算複雑性が一致しない新たなトリガリバースエンジニアリング手法を提案する。 実験では,提案手法が純モデルからトロイの木馬モデルを分離する際の完全なスコアを達成できることが観察された。
  論文  参考訳（メタデータ） (2020-06-10T04:12:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。