論文の概要: FedSharp: Byzantine Robust Decentralized Federated Learning Under Noisy Channel
- arxiv url: http://arxiv.org/abs/2611.05546v1
- Date: Tue, 03 Nov 2026 19:37:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 03:25:57.829007
- Title: FedSharp: Byzantine Robust Decentralized Federated Learning Under Noisy Channel
- Title(参考訳): FedSharp: ビザンチンのロバストな非中央集権的な教育
- Abstract要約: モデルがノード間を伝播するにつれてノイズが蓄積し,学習速度が低下するにつれて,ますます顕著になることを示す。
スクリーニング,ホップ認識,ランク付け,平均近似,堅牢なDFLフレームワーク(FedSharp)を提案する。
実験の結果、FedSharpはMNISTで93.5-94.9%の精度を達成しており、最先端の単一モデル選択ベンチマークでは29.4-38.1%である。
- 参考スコア(独自算出の注目度): 4.689604113220745
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Decentralized federated learning (DFL) eliminates the central aggregation server but remains vulnerable to data heterogeneity, Byzantine attacks, and channel noise. We show that noise accumulates as models propagate across nodes, becoming increasingly significant as the learning rate decays. Moreover, accumulated noise enables Byzantine attackers to exploit loss-based model selection by mimicking honest model averages. To address these challenges, we propose screened, hop-aware, ranked, proximal averaging, a robust DFL framework (FedSharp). In this approach, each node maintains models from its 2b predecessors, ensuring at least b honest candidates when at most b nodes are Byzantine. FedSharp screens suspicious models using coordinate-wise median deviations, averages the b lowest-loss candidates to reduce fresh channel-noise variance by a factor of b, and applies noise-adaptive gradient-norm regularization and proximal training to mitigate accumulated noise and non-IID drift. Experiments on a 100-node ring with 33 Byzantine nodes show that FedSharp achieves 93.5-94.9% accuracy on MNIST, compared with 29.4-38.1% for a state-of-the-art single-model-selection benchmark, and 32.8-48.8% on CIFAR-10, compared with 10.0-30.5%, across Gaussian and hidden attacks under IID and non-IID data. On MNIST, FedSharp also achieves accuracy within approximately one percentage point of the benchmark operating without channel noise.
- Abstract(参考訳): 分散連合学習(DFL)は、中央集約サーバを排除しているが、データの不均一性、ビザンティン攻撃、チャネルノイズに弱いままである。
モデルがノード間を伝播するにつれてノイズが蓄積し,学習速度が低下するにつれて,ますます顕著になることを示す。
さらに、蓄積されたノイズにより、ビザンティン攻撃者は、正直なモデル平均を模倣して損失ベースのモデル選択を利用することができる。
これらの課題に対処するため、我々は、スクリーニングされたホップ認識、ランク付け、近似平均化、堅牢なDFLフレームワーク(FedSharp)を提案する。
このアプローチでは、各ノードは2b以前のモデルを維持し、少なくともbノードがビザンティンである場合に、b正直な候補を確実に確保する。
FedSharpは、座標の中央値偏差を用いて不審なモデルをスクリーニングし、bの係数でチャネルノイズのばらつきを減らし、雑音適応的勾配ノルム正規化と近似トレーニングを適用し、蓄積したノイズと非IIDドリフトを緩和する。
33のビザンチンノードを持つ100ノードリングの実験では、FedSharpはMNISTで93.5-94.9%の精度を達成し、29.4-38.1%は最先端の単一モデル選択ベンチマークで、32.8-48.8%はCIFAR-10で、ガウスと非IIDデータによる隠れ攻撃では10.0-30.5%であった。
MNISTでは、FedSharpはチャネルノイズなしで動作しているベンチマークのおよそ1パーセントの精度も達成している。
関連論文リスト
- Serverless gossip training of LSTM failure detectors: A matched-protocol comparison with federated, local and centralized learning on NASA C-MAPSS [8.745073422125925]
Federated Averaging (FedAvg)は、これを集中集約で解決する。
我々は、同期リングゴシップをFedAvgと比較し、局所訓練を分離し、LSTMを集中的に参照する。
FD001では、FedAvgの89.9 +/-1.1%、ローカルトレーニングの83.6 +/-6.7%、集中トレーニングの93.5 +/-2.1%に対して、Gossipは89.6 +/-1.3%のターミナルウインドウF1に達した。
論文 参考訳(メタデータ) (2026-09-17T03:34:29Z) - Rethinking Noise-Robust Training for Frozen Vision Foundation Models: A Cross-Dataset Benchmark with a Case Study of Small-Loss Failure [7.512887610816016]
軽微な分類ヘッドを持つ凍結視覚基礎モデル (VFM) は、医用画像の撮影にますます利用されている。
5つの医療データセット,3つのバックボーン,2つのノイズタイプ,5つのノイズレートにまたがる8つのノイズラベル手法のベンチマークを示す。
我々は,エビデンスに基づく指導と,実践的な勧告のための低信頼度特徴空間セレクタで締めくくる。
論文 参考訳(メタデータ) (2026-05-21T15:02:44Z) - Robust Representation Consistency Model via Contrastive Denoising [83.47584074390842]
ランダムな平滑化は、敵の摂動に対する堅牢性を証明する理論的保証を提供する。
拡散モデルは、ノイズ摂動サンプルを浄化するためにランダムな平滑化に成功している。
我々は,画素空間における拡散軌跡に沿った生成的モデリングタスクを,潜在空間における識別的タスクとして再構成する。
論文 参考訳(メタデータ) (2025-01-22T18:52:06Z) - Certified PEFTSmoothing: Parameter-Efficient Fine-Tuning with Randomized Smoothing [6.86204821852287]
ランダム化平滑化は,l2-ノルムの対向摂動に対して,ディープラーニングモデルの頑健性にアクセスするための主要な確証付き頑健性手法である。
広く採用されることを制限する顕著な制約は、ベースモデルをスクラッチからリトレーニングし、堅牢なバージョンを得る必要があることである。
これは、ベースモデルがノイズの増大したデータ分布を学習し、正確な投票を行うのに失敗するためである。
近年の大規模モデルトレーニングに触発されて,ベースモデルに適応して雑音付加データを学ぶために,PEFTSmoothingという別の手法を提案する。
論文 参考訳(メタデータ) (2024-04-08T09:38:22Z) - FedDiv: Collaborative Noise Filtering for Federated Learning with Noisy
Labels [99.70895640578816]
雑音ラベル付きフェデレーション学習(F-LNL)は,協調型分散学習を通じて最適なサーバモデルを求めることを目的としている。
我々はF-LNLの課題に取り組むためにFedDivを提案し、特にフェデレートノイズフィルタと呼ばれるグローバルノイズフィルタを提案する。
論文 参考訳(メタデータ) (2023-12-19T15:46:47Z) - Evaluating Similitude and Robustness of Deep Image Denoising Models via
Adversarial Attack [60.40356882897116]
ディープニューラルネットワーク(DNN)は、従来の画像復調アルゴリズムよりも優れたパフォーマンスを示している。
本稿では,現在のディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディナイジング・PGD(Denoising-PGD)と名づけられた敵攻撃手法を提案する。
論文 参考訳(メタデータ) (2023-06-28T09:30:59Z) - Stable Target Field for Reduced Variance Score Estimation in Diffusion
Models [5.9115407007859755]
拡散モデルは、固定された前方拡散過程を反転させてサンプルを生成する。
このような分散の源泉は、中間雑音分散スケールの取り扱いにあると論じる。
より安定したトレーニングターゲットとして重み付けされた条件スコアを計算するために使用する参照バッチを組み込むことにより、この問題を修復することを提案する。
論文 参考訳(メタデータ) (2023-02-01T18:57:01Z) - MUDGUARD: Taming Malicious Majorities in Federated Learning using
Privacy-Preserving Byzantine-Robust Clustering [34.429892915267686]
Byzantine-robust Federated Learning (FL)は、悪意のあるクライアントに対抗し、攻撃の成功率を極端に低く保ちながら、正確なグローバルモデルをトレーニングすることを目的としている。
しかし、既存のシステムのほとんどは、クライアントが正直な場合にのみ堅牢である。
本稿では,サーバ側とクライアント側の両方で悪意あるマイノリティの求職者多数で運用可能な,ビザンチン・ロバスト・プライバシ保護型FLシステム MUDGUARD を提案する。
論文 参考訳(メタデータ) (2022-08-22T09:17:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。