論文の概要: FedFFT: Taming Client Drift in Federated SAM via Spectral Perturbation Filtering

• arxiv url: http://arxiv.org/abs/2607.04170v1
• Date: Sun, 05 Jul 2026 08:33:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-07 22:26:29.845869
• Title: FedFFT: Taming Client Drift in Federated SAM via Spectral Perturbation Filtering
• Title（参考訳）: FedFFT: スペクトル摂動フィルタによるフェデレーションSAMにおけるクライアントドリフトのモデリング
• Abstract要約: SAM摂動の周波数領域フィルタリングを用いたフェデレーション学習(FedFFT)を提案する。 FedFFTは、SAM摂動の低周波成分を追加の通信を必要とせずにフィルタリングする軽量でプラグアンドプレイ方式である。
• 参考スコア（独自算出の注目度）: 23.709933555412757
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Federated Learning (FL) enables decentralized training without data sharing, but suffers from statistical heterogeneity across clients, leading to client drift, poor generalization, and sharp minima compared to centralized training. Sharpness-Aware Minimization (SAM) has emerged as a promising approach to improve generalization, yet its application in federated learning still suffers from divergence problems, since perturbations are computed locally and reflect client-specific loss geometries. To better understand this issue, we provide experimental evidence from a new perspective, the frequency domain, for SAM perturbations in federated settings, revealing that inter-client perturbation inconsistencies are predominantly concentrated in the low-frequency spectrum. Motivated by this insight, we propose Federated learning with Frequency-domain Filtering of SAM perturbations (FedFFT). It is a lightweight and plug-and-play method that filters out low-frequency components of SAM perturbations without requiring additional communication, thereby suppressing inconsistent components in client updates while preserving consistent learning signals. Extensive experiments across multiple benchmarks and diverse backbones demonstrate that FedFFT consistently outperforms SAM-based FL methods, particularly under severe non-IID distributions. These results highlight the effectiveness, scalability, and general applicability of our frequency-domain perspective for sharpness-aware federated optimization.
• Abstract（参考訳）: フェデレートラーニング(FL)は、データ共有のない分散トレーニングを可能にするが、クライアント間の統計的異質性に悩まされ、クライアントのドリフト、一般化の低さ、集中型トレーニングと比較して急激な最小化につながる。 Sharpness-Aware Minimization (SAM) は、一般化を改善するための有望なアプローチとして登場したが、連合学習におけるその応用は、摂動が局所的に計算され、クライアント固有の損失測度を反映するため、依然として分散問題に悩まされている。 この問題をよりよく理解するために、我々は、フェデレートされた設定におけるSAM摂動に対する周波数領域(英語版)という新しい視点からの実験的エビデンスを提示し、周期間摂動の不整合が主に低周波スペクトルに集中していることを明らかにする。 そこで本研究では,SAM摂動の周波数領域フィルタリングを用いたフェデレーション学習を提案する。 これは、SAM摂動の低周波成分を追加の通信を必要とせずにフィルタリングし、一貫した学習信号を保持しながらクライアント更新の不整合成分を抑制する軽量かつプラグアンドプレイ方式である。 複数のベンチマークと多様なバックボーンにわたる大規模な実験により、FedFFTはSAMベースのFL法、特に重度の非IID分布において一貫して優れていた。 これらの結果は、シャープネスを意識したフェデレーション最適化のための周波数領域視点の有効性、拡張性、および一般的な適用性を強調している。

関連論文リスト

• Full spectrum Unlearnable Examples via Spectral Equalization [29.22443621401928]
  スペクトル等化(FUSE)によるフルスペクトル未学習例を提案する。 FUSEは、異なるバンドからのコントリビューションを等しくし、バンド間の一貫性を強制することにより、スペクトルに依存しない摂動を生成する。 複数のデータセット、アーキテクチャ、スペクトルフィルタリングにわたる実験は、FUSEによって達成された強力な保護を示す。
  論文  参考訳（メタデータ） (2026-06-25T07:53:53Z)
• FedVSSAM: Mitigating Flatness Incompatibility in Sharpness-Aware Federated Learning [65.74073318961548]
  シャープネス・アウェア (SAM) は, 局所訓練を平らなミニマに向けて行うことにより, 連邦学習(FL)の一般化を改善する効果的な方法である。 最小化抑制型シャープネス抑圧探索(FedVSSAM)によるフェデレーション学習を提案する。 FedVSSAMは、より安定したグローバルな方向への更新方向をアンカーし、局所的な平坦な摂動、局所的な更新で一貫して使用する。
  論文  参考訳（メタデータ） (2026-05-09T20:03:02Z)
• FedSIR: Spectral Client Identification and Relabeling for Federated Learning with Noisy Labels [2.0878272814614087]
  フェデレートラーニング(FL)は、生データを共有せずに協調的なモデルトレーニングを可能にする。 分散クライアントにまたがるノイズの多いラベルの存在は、学習性能を著しく低下させる可能性がある。 雑音ラベル下での強靭なFLのための多段階フレームワークであるFedSIRを提案する。
  論文  参考訳（メタデータ） (2026-04-22T17:49:20Z)
• Adaptive Dual-Weighting Framework for Federated Learning via Out-of-Distribution Detection [53.45696787935487]
  Federated Learning (FL)は、大規模分散サービスノード間の協調的なモデルトレーニングを可能にする。 実世界のサービス指向デプロイメントでは、異種ユーザ、デバイス、アプリケーションシナリオによって生成されたデータは本質的にIIDではない。 FLoodは、オフ・オブ・ディストリビューション(OOD)検出にインスパイアされた新しいFLフレームワークである。
  論文  参考訳（メタデータ） (2026-02-01T05:54:59Z)
• FedSCAM (Federated Sharpness-Aware Minimization with Clustered Aggregation and Modulation): Scam-resistant SAM for Robust Federated Optimization in Heterogeneous Environments [0.0]
  フェデレートラーニング(FL)は、データプライバシを保持しながら、分散エッジデバイス間で協調的なモデルトレーニングを可能にする。 クライアント間の統計的不均一性は、しばしば非IIDラベル分布として表されるが、収束と一般化に重大な課題を生じさせる。 クライアント固有の不均一性スコアに基づいてSAM摂動半径と集約重みを動的に調整する新しいアルゴリズムである textbfFedSCAM (Federated Sharpness-Aware Minimization with Clustered Aggregation and Modulation) を提案する。
  論文  参考訳（メタデータ） (2025-12-29T19:42:50Z)
• Locally Estimated Global Perturbations are Better than Local Perturbations for Federated Sharpness-aware Minimization [81.32266996009575]
  フェデレートラーニング(FL)では、クライアント間の複数ステップの更新とデータの均一性が、よりシャープなミニマによるロスランドスケープにつながることが多い。 クライアント側におけるグローバルな摂動方向を局所的に推定する新しいアルゴリズムであるFedLESAMを提案する。
  論文  参考訳（メタデータ） (2024-05-29T08:46:21Z)
• Friendly Sharpness-Aware Minimization [62.57515991835801]
  シャープネス・アウェアの最小化(SAM)は、トレーニング損失とロスシャープネスの両方を最小化することにより、ディープニューラルネットワークトレーニングの改善に役立っている。 対向性摂動におけるバッチ特異的勾配雑音の主な役割,すなわち現在のミニバッチ勾配について検討する。 逆勾配雑音成分を分解することにより、全勾配のみに依存すると一般化が低下し、除くと性能が向上することがわかった。
  論文  参考訳（メタデータ） (2024-03-19T01:39:33Z)
• FedSkip: Combatting Statistical Heterogeneity with Federated Skip Aggregation [95.85026305874824]
  我々はFedSkipと呼ばれるデータ駆動型アプローチを導入し、フェデレーション平均化を定期的にスキップし、ローカルモデルをクロスデバイスに分散することで、クライアントの最適化を改善する。 我々は、FedSkipがはるかに高い精度、より良いアグリゲーション効率、競合する通信効率を達成することを示すために、さまざまなデータセットに関する広範な実験を行う。
  論文  参考訳（メタデータ） (2022-12-14T13:57:01Z)
• FedFM: Anchor-based Feature Matching for Data Heterogeneity in Federated Learning [91.74206675452888]
  本稿では,各クライアントの特徴を共有カテゴリーのアンカーにマッチさせる新しいFedFM法を提案する。 効率と柔軟性を向上させるため,FedFM-Liteと呼ばれるFedFM変種を提案し,クライアントは同期時間と通信帯域幅のコストを少なくしてサーバと通信する。
  論文  参考訳（メタデータ） (2022-10-14T08:11:34Z)
• FedPrune: Towards Inclusive Federated Learning [1.308951527147782]
  フェデレートラーニング(Federated Learning, FL)は、分散データの共有モデルをプライバシ保護形式でトレーニングする分散学習技術である。 我々は,この課題に対処するシステムであるFedPruneを提案する。 Central Limit Theoremからの洞察を利用することで、FedPruneは非IIDデータよりも堅牢なパフォーマンスを実現する新しい集約テクニックを取り入れている。
  論文  参考訳（メタデータ） (2021-10-27T06:33:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。