論文の概要: EnCAgg: Enhanced Clustering Aggregation for Robust Federated Learning against Dynamic Model Poisoning
- arxiv url: http://arxiv.org/abs/2605.22506v1
- Date: Thu, 21 May 2026 13:56:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-22 16:35:42.286405
- Title: EnCAgg: Enhanced Clustering Aggregation for Robust Federated Learning against Dynamic Model Poisoning
- Title（参考訳）: EnCAgg: 動的モデル中毒に対するロバストなフェデレーション学習のためのクラスタリングの強化
- Abstract要約: フェデレーション学習は、モデル中毒攻撃による脅威の増加に直面しており、プライバシを改善するためのアプリケーションに害を与えている。
本稿では,少数の良性クライアントを参照として活用する新しいロバストアグリゲーション手法を提案する。
本手法は, 動的中毒シナリオにおいて優れた忠実度と堅牢性を示す。
- 参考スコア（独自算出の注目度）: 46.86831941099998
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Federated learning faces increasing threats from model poisoning attacks, which harms its application to improve privacy. Existing defense methods typically rely on fixed thresholds or perform clustering with a fixed number of clusters to distinguish malicious gradients from benign ones. However, these methods are difficult to adapt to dynamic poisoning strategies of malicious clients, and often result in the loss of benign gradients due to the heterogeneity of clients' local datasets. To address these problems, we propose a novel robust aggregation method that leverages a small number of known benign clients as references, enabling accurate identification and filtering of malicious gradients while retaining as many benign gradients as possible, even when the number of malicious clients is unknown and variable. First, we introduce a density-based low-dimensional gradient clustering method, which projects gradients onto the two most divergent dimensions and applies density-based clustering to identify malicious gradients while retaining clustered benign gradients and potentially benign outliers. Second, we design an enhancing clustering low-dimensional gradient generator model, which learns to generate pseudo-gradients aligned with the boundary of the benign cluster. These pseudo-gradients act as bridges to connect sparse benign gradient outliers. Third, we introduce low-dimensional gradient re-clustering that clusters the generated pseudo-gradients together with real gradients to recover benign gradients misclassified as noise points, enabling more benign gradients to participate in aggregation. Extensive experiments on the MNIST, CIFAR-10, and MIND datasets demonstrate that our method exhibits superior fidelity and robustness under dynamic poisoning scenarios.
- Abstract（参考訳）: フェデレーション学習は、モデル中毒攻撃による脅威の増加に直面しており、プライバシを改善するためのアプリケーションに害を与えている。
既存の防御方法は、通常、固定しきい値に依存するか、クラスタ数でクラスタリングを行い、悪質な勾配と良質な勾配を区別する。
しかし、これらの手法は悪意のあるクライアントの動的中毒戦略に適応することは困難であり、クライアントのローカルデータセットの不均一性により良性勾配が失われることがしばしばある。
これらの問題に対処するために,少数の既知の良性クライアントを参照として活用し,悪意のあるクライアントの数が不明で変動している場合でも,可能な限り良性勾配を維持しつつ,悪意のある勾配の正確な識別とフィルタリングを可能にする,新しい頑健な集約手法を提案する。
まず, 2つの最も分散した次元に勾配を投影する密度ベース低次元勾配クラスタリング手法を導入し, 悪質勾配の同定に密度ベースクラスタリングを適用した。
第2に、良性クラスタの境界に整合した擬似次数を生成することを学ぶ、拡張クラスタ化低次元勾配生成モデルを設計する。
これらの擬勾配はスパースベニグニグニグニグニグニグリアーを接続するブリッジとして機能する。
第3に、生成した擬似勾配を実勾配とともにクラスタリングして、ノイズポイントとして誤って分類された良性勾配を復元する低次元勾配再クラスタリングを導入し、より良性勾配をアグリゲーションに参加できるようにする。
MNIST, CIFAR-10, MINDデータセットの大規模実験により, 本手法は動的中毒シナリオにおいて優れた忠実性と堅牢性を示すことが示された。
関連論文リスト
- Gradient Mirage: Trainable yet Label-Unidentifiable Gradients in Large Language Model Split Learning [21.543362368449156]
スプリットラーニングにおける勾配マッチング攻撃(GMA)は、批判的だが未解明の仮定に依存している。
この一貫性により、好奇心の強いサーバは、観測結果に誘導勾配が説明されるシーケンスを探索することで、プライベートラベルを復元することができる。
本稿では,後方信号の最適化性を捨てることなく,この一貫性を損なうディフェンスであるグラディエントミラージュを提案する。
論文 参考訳（メタデータ） (2026-08-19T10:20:33Z) - Enhancing Gradient Inversion Attacks in Federated Learning via Hierarchical Feature Optimization [56.95448807869383]
フェデレートラーニング(FL)は、プライバシを保存する分散機械学習の魅力的なパラダイムとして登場した。
近年の研究では、FLシステムで交換される勾配もプライバシー漏洩に弱いことが報告されている。
我々は textbfGradient textbfInversion over textbfFeature textbfDomains (GIFD) を提案する。
論文 参考訳（メタデータ） (2026-04-01T14:32:15Z) - The Devil Is in Gradient Entanglement: Energy-Aware Gradient Coordinator for Robust Generalized Category Discovery [76.35318747478522]
Energy-Aware Gradient Coordinator (EAGC) は、最適化プロセスを明示的に制御するプラグイン・アンド・プレイの勾配モジュールである。
EAGCはAnchor-based Gradient Alignment (AGA)とEnergy-Aware Elastic Projection (EEP)の2つのコンポーネントから構成される。
論文 参考訳（メタデータ） (2026-03-25T14:58:42Z) - Generative Model Inversion Through the Lens of the Manifold Hypothesis [98.37040155914595]
モデル反転攻撃(MIA)は、訓練されたモデルからクラス表現型サンプルを再構成することを目的としている。
最近の生成的MIAは、生成的敵ネットワークを使用して、反転過程を導く画像の事前学習を行う。
論文 参考訳（メタデータ） (2025-09-24T14:39:25Z) - A Theoretical Insight into Attack and Defense of Gradient Leakage in
Transformer [11.770915202449517]
グラディエント(DLG)攻撃によるDeep Leakageは、交換勾配を検査してセンシティブなトレーニングデータを抽出する方法として、広く普及している。
本研究は, 変圧器モデルに特に適用した場合の勾配漏洩法を包括的に解析する。
論文 参考訳（メタデータ） (2023-11-22T09:58:01Z) - GIFD: A Generative Gradient Inversion Method with Feature Domain
Optimization [52.55628139825667]
Federated Learning(FL)は、クライアントのプライバシを保護するための有望な分散機械学習フレームワークとして登場した。
近年の研究では、事前学習された生成逆ネットワーク(GAN)を事前知識として活用することにより、攻撃者が共有勾配を逆転し、FLシステムに対する機密データを回復できることが示されている。
textbfGradient textbfInversion over textbfFeature textbfDomains (GIFD)を提案する。
論文 参考訳（メタデータ） (2023-08-09T04:34:21Z) - Sampling-based Fast Gradient Rescaling Method for Highly Transferable
Adversarial Attacks [18.05924632169541]
サンプリングに基づく高速勾配再スケーリング法(S-FGRM)を提案する。
具体的には、余分な計算コストを伴わずに手話関数を置換するためにデータ再スケーリングを用いる。
本手法は, 勾配に基づく攻撃の伝達可能性を大幅に向上させ, 最先端のベースラインより優れる可能性がある。
論文 参考訳（メタデータ） (2023-07-06T07:52:42Z) - Byzantine-Robust Learning on Heterogeneous Data via Gradient Splitting [58.91947205027892]
フェデレーテッド・ラーニングはビザンツの攻撃に対する脆弱性を示している。
ビザンティン攻撃者は、任意の勾配を中央サーバに送ることで、グローバルモデルの収束と性能を破壊することができる。
アグレゲーション・ルール(AGR)は、ビザンツの攻撃から守るために提案されている。
論文 参考訳（メタデータ） (2023-02-13T03:31:50Z) - Combining Stochastic Defenses to Resist Gradient Inversion: An Ablation Study [6.766058964358335]
差分プライバシー(DP)やプライバシモジュール(PM)のような一般的な防御メカニズムは、そのような攻撃を防ぐために計算中にランダム性を導入する。
本稿では,この原理を応用し,共通防御機構をバイパスするターゲットGI攻撃について紹介する。
論文 参考訳（メタデータ） (2022-08-09T13:23:29Z) - Query-Efficient Black-box Adversarial Attacks Guided by a Transfer-based
Prior [50.393092185611536]
対象モデルの勾配にアクセスできることなく、敵が敵の例を作らなければならないブラックボックスの敵設定を考える。
従来の手法では、代用ホワイトボックスモデルの転送勾配を用いたり、モデルクエリのフィードバックに基づいて真の勾配を近似しようとした。
偏りサンプリングと勾配平均化に基づく2つの事前誘導型ランダム勾配フリー(PRGF)アルゴリズムを提案する。
論文 参考訳（メタデータ） (2022-03-13T04:06:27Z) - Adversarially Robust Classification by Conditional Generative Model
Inversion [4.913248451323163]
本稿では,攻撃の事前知識を仮定することなく,勾配を難読化せず,構造的に堅牢な分類モデルを提案する。
提案手法は,未成熟な自然画像に基づいて訓練された条件生成器を「反転」する最適化問題である。
我々のモデルはブラックボックス攻撃に対して非常に堅牢であり、ホワイトボックス攻撃に対するロバスト性を改善したことを実証する。
論文 参考訳（メタデータ） (2022-01-12T23:11:16Z) - LEGATO: A LayerwisE Gradient AggregaTiOn Algorithm for Mitigating
Byzantine Attacks in Federated Learning [10.667821026727573]
フェデレーション学習は、複数の参加者がデータを共有せずに協力的にモデルをトレーニングするためのメカニズムとして生まれました。
対照的にスケーラブルで一般化可能な集約アルゴリズムであるLayerwisE Gradient AggregatTiOn(LEGATO)を紹介する。
LEGATOは、複数の最先端技術よりも計算効率が良く、より一般的に様々な攻撃設定において堅牢であることを示す。
論文 参考訳（メタデータ） (2021-07-26T21:34:45Z) - Towards Query-Efficient Black-Box Adversary with Zeroth-Order Natural
Gradient Descent [92.4348499398224]
ブラックボックスの敵攻撃手法は、実用性や単純さから特に注目されている。
敵攻撃を設計するためのゼロ階自然勾配降下法(ZO-NGD)を提案する。
ZO-NGDは、最先端攻撃法と比較して、モデルクエリの複雑さが大幅に低い。
論文 参考訳（メタデータ） (2020-02-18T21:48:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。