論文の概要: Two Heads Are Better than One: Model-Weight and Latent-Space Analysis for Federated Learning on Non-iid Data against Poisoning Attacks

• arxiv url: http://arxiv.org/abs/2503.23288v1
• Date: Sun, 30 Mar 2025 02:56:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-01 19:35:57.03756
• Title: Two Heads Are Better than One: Model-Weight and Latent-Space Analysis for Federated Learning on Non-iid Data against Poisoning Attacks
• Title（参考訳）: モデルウェイトと潜在空間分析の2つの頭部は1より優れている:非イデオデータに基づく非イデオロギー攻撃に対するフェデレート学習
• Authors: Xingyu Lyu, Ning Wang, Yang Xiao, Shixiong Li, Tao Li, Danjue Chen, Yimin Chen,
• Abstract要約: Federated Learning(FL)は、リモートクライアントが生データを共有せずにグローバルモデルを共同でトレーニングできる一般的なパラダイムである。 FLは、その分散した性質のため、モデル中毒攻撃に対して脆弱であることが示されている。 我々は,GeminiGuardを軽量で汎用的で教師なしで,そのような防御を配備する実践的な要件に適合するように提案する。
• 参考スコア（独自算出の注目度）: 12.325216357472137
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Federated Learning is a popular paradigm that enables remote clients to jointly train a global model without sharing their raw data. However, FL has been shown to be vulnerable towards model poisoning attacks due to its distributed nature. Particularly, attackers acting as participants can upload arbitrary model updates that effectively compromise the global model of FL. While extensive research has been focusing on fighting against these attacks, we find that most of them assume data at remote clients are under iid while in practice they are inevitably non-iid. Our benchmark evaluations reveal that existing defenses generally fail to live up to their reputation when applied to various non-iid scenarios. In this paper, we propose a novel approach, GeminiGuard, that aims to address such a significant gap. We design GeminiGuard to be lightweight, versatile, and unsupervised so that it aligns well with the practical requirements of deploying such defenses. The key challenge from non-iids is that they make benign model updates look more similar to malicious ones. GeminiGuard is mainly built on two fundamental observations: (1) existing defenses based on either model-weight analysis or latent-space analysis face limitations in covering different MPAs and non-iid scenarios, and (2) model-weight and latent-space analysis are sufficiently different yet potentially complementary methods as MPA defenses. We hence incorporate a novel model-weight analysis component as well as a custom latent-space analysis component in GeminiGuard, aiming to further enhance its defense performance. We conduct extensive experiments to evaluate our defense across various settings, demonstrating its effectiveness in countering multiple types of untargeted and targeted MPAs, including adaptive ones. Our comprehensive evaluations show that GeminiGuard consistently outperforms SOTA defenses under various settings.
• Abstract（参考訳）: フェデレートラーニング(Federated Learning)は、リモートクライアントが生データを共有せずにグローバルモデルを共同でトレーニングできる一般的なパラダイムである。 しかし、FLは、その分散した性質のため、モデル中毒攻撃に対して脆弱であることが示されている。 特に、参加者として行動するアタッカーは任意のモデル更新をアップロードして、FLのグローバルモデルを効果的に侵害することができる。 大規模な研究はこれらの攻撃と戦うことに重点を置いているが、その多くは、リモートクライアントのデータが不正な状態にあると仮定している。 我々のベンチマーク評価では、既存の防衛策は一般的に、様々な非idシナリオに適用しても、その評価に届かなかったことが示されている。 本稿では,このような大きなギャップに対処することを目的とした,新しいアプローチであるGeminiGuardを提案する。 我々は、GeminiGuardを軽量で汎用的で教師なしで設計し、そのような防御を配備する実践的な要件に適合するようにします。 非IDの鍵となる課題は、良心的なモデルアップデートを悪意のあるものに見せかけることだ。 GeminiGuardは主に、2つの基本的な観測に基づいて構築されている:(1)モデルウェイト分析または潜在空間分析に基づく既存の防衛は、異なるMPAおよび非イドシナリオをカバーする際の制限に直面し、(2)モデルウェイトおよび潜在空間分析は、MPAディフェンスと十分に異なるが、潜在的に相補的な方法である。 そこで我々は,新しいモデルウェイト分析コンポーネントと独自の潜在空間分析コンポーネントをGeminiGuardに組み込むことで,防衛性能をさらに向上することを目指している。 本研究は多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多型対応MPA(適応MPAを含む)に対する防御効果を実証し,多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種多種 総合評価の結果,GeminiGuard は様々な環境下でSOTA の防御性能を一貫して上回っていることがわかった。

関連論文リスト

• Meta Invariance Defense Towards Generalizable Robustness to Unknown Adversarial Attacks [62.036798488144306]
  現在の防衛は主に既知の攻撃に焦点を当てているが、未知の攻撃に対する敵意の強固さは見過ごされている。 メタ不変防衛(Meta Invariance Defense, MID)と呼ばれる攻撃非依存の防御手法を提案する。 MIDは高レベルの画像分類と低レベルの頑健な画像再生における攻撃抑制において,知覚不能な逆方向の摂動に対して同時に頑健性を実現する。
  論文  参考訳（メタデータ） (2024-04-04T10:10:38Z)
• Learn from the Past: A Proxy Guided Adversarial Defense Framework with Self Distillation Regularization [53.04697800214848]
  敵対的訓練(AT)は、ディープラーニングモデルの堅牢性を固める上で重要な要素である。 AT方式は、目標モデルの防御のために直接反復的な更新を頼りにしており、不安定な訓練や破滅的なオーバーフィッティングといった障害に頻繁に遭遇する。 汎用プロキシガイド型防衛フレームワークLAST(bf Pbf astから学ぶ)を提案する。
  論文  参考訳（メタデータ） (2023-10-19T13:13:41Z)
• Defending Pre-trained Language Models as Few-shot Learners against Backdoor Attacks [72.03945355787776]
  軽快でプラガブルで効果的な PLM 防御である MDP を,少人数の学習者として提唱する。 我々は,MDPが攻撃の有効性と回避性の両方を選択できる興味深いジレンマを発生させることを解析的に示す。
  論文  参考訳（メタデータ） (2023-09-23T04:41:55Z)
• Avoid Adversarial Adaption in Federated Learning by Multi-Metric Investigations [55.2480439325792]
  Federated Learning(FL)は、分散機械学習モデルのトレーニング、データのプライバシの保護、通信コストの低減、多様化したデータソースによるモデルパフォーマンスの向上を支援する。 FLは、中毒攻撃、標的外のパフォーマンス劣化とターゲットのバックドア攻撃の両方でモデルの整合性を損なうような脆弱性に直面している。 我々は、複数の目的に同時に適応できる、強い適応的敵の概念を新たに定義する。 MESASは、実際のデータシナリオで有効であり、平均オーバーヘッドは24.37秒である。
  論文  参考訳（メタデータ） (2023-06-06T11:44:42Z)
• Resisting Adversarial Attacks in Deep Neural Networks using Diverse Decision Boundaries [12.312877365123267]
  深層学習システムは、人間の目には認識できないが、モデルが誤分類される可能性がある、人工的な敵の例に弱い。 我々は,オリジナルモデルに対する多様な決定境界を持つディフェンダーモデルを構築するための,アンサンブルに基づく新しいソリューションを開発した。 我々は、MNIST、CIFAR-10、CIFAR-100といった標準画像分類データセットを用いて、最先端の敵攻撃に対する広範な実験を行った。
  論文  参考訳（メタデータ） (2022-08-18T08:19:26Z)
• Deep Leakage from Model in Federated Learning [6.001369927772649]
  モデル重みの伝達がクライアントのプライベートなローカルデータをリークする可能性を示す2つの新しいフレームワークを提案する。 また,提案攻撃に対する防御策を2つ導入し,その防御効果を評価した。
  論文  参考訳（メタデータ） (2022-06-10T05:56:00Z)
• "What's in the box?!": Deflecting Adversarial Attacks by Randomly Deploying Adversarially-Disjoint Models [71.91835408379602]
  敵の例は長い間、機械学習モデルに対する真の脅威と考えられてきた。 我々は、従来のホワイトボックスやブラックボックスの脅威モデルを超えた、配置ベースの防衛パラダイムを提案する。
  論文  参考訳（メタデータ） (2021-02-09T20:07:13Z)
• A Comprehensive Evaluation Framework for Deep Model Robustness [44.20580847861682]
  ディープニューラルネットワーク(DNN)は、幅広いアプリケーションで顕著なパフォーマンスを達成しています。 彼らは敵の防御を動機付ける敵の例に弱い。 本稿では,包括的で厳密で一貫性のある評価指標を含むモデル評価フレームワークを提案する。
  論文  参考訳（メタデータ） (2021-01-24T01:04:25Z)
• A Self-supervised Approach for Adversarial Robustness [105.88250594033053]
  敵対的な例は、ディープニューラルネットワーク(DNN)ベースの視覚システムにおいて破滅的な誤りを引き起こす可能性がある。 本稿では,入力空間における自己教師型対向学習機構を提案する。 これは、反逆攻撃に対する強力な堅牢性を提供する。
  論文  参考訳（メタデータ） (2020-06-08T20:42:39Z)
• Reliable evaluation of adversarial robustness with an ensemble of diverse parameter-free attacks [65.20660287833537]
  本稿では,最適段差の大きさと目的関数の問題による障害を克服するPGD攻撃の2つの拡張を提案する。 そして、我々の新しい攻撃と2つの補完的な既存の攻撃を組み合わせることで、パラメータフリーで、計算に手頃な価格で、ユーザに依存しない攻撃のアンサンブルを形成し、敵の堅牢性をテストする。
  論文  参考訳（メタデータ） (2020-03-03T18:15:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。