論文の概要: SpecGradFilter: A Spectral Gradient Filtering Framework for Taming Federated Heterogeneity

• arxiv url: http://arxiv.org/abs/2607.04189v1
• Date: Sun, 05 Jul 2026 09:23:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-07 22:26:29.848916
• Title: SpecGradFilter: A Spectral Gradient Filtering Framework for Taming Federated Heterogeneity
• Title（参考訳）: SpecGradFilter: フェデレート不均一性処理のためのスペクトル勾配フィルタフレームワーク
• Abstract要約: フェデレートラーニング(FL)は、非ID分散(非IID)データがクライアントのドリフトを誘導し、グローバルな収束を阻害する統計的不均一性によって根本的に挑戦される。 本研究では,新しい周波数領域の観点からクライアントのドリフトを再考し,Drift のスペクトルバイアスを明らかにする。 そこで本研究では,低周波信号の不一致を抑えることで不均一性を解消するスペクトルフィルタリンググラディエント・フレームワークであるSpecGradFilterを提案する。
• 参考スコア（独自算出の注目度）: 57.84199526590779
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Federated Learning (FL) is fundamentally challenged by statistical heterogeneity, where non-identically distributed (non-IID) data induces client drift that severely hampers global convergence. While existing approaches attempt to mitigate this drift through spatial-domain gradient correction or regularization, they overlook the intrinsic spectral structure of optimization signals. In this work, we revisit client drift from a novel frequency-domain perspective and uncover a critical Spectral Bias of Drift: inter-client gradient divergence is predominantly concentrated in low-frequency components which encode client-specific distributional shifts, while high-frequency components representing fine-grained features remain relatively consistent. Motivated by this, we propose SpecGradFilter, a unified Spectral Gradient Filtering Framework that tames heterogeneity by suppressing discordant low-frequency signals. Crucially, we demonstrate that SpecGradFilter is a generalizable principle, effective not only via precise FFT-based truncation but also through spatial approximations like Gaussian detrending. Extensive experiments on benchmarks such as CIFAR-10/100 and Tiny-ImageNet demonstrate that SpecGradFilter significantly performs better performance in highly Non-IID settings with negligible communication overhead, establishing a new paradigm for robust federated optimization.
• Abstract（参考訳）: フェデレートラーニング(FL)は、統計的不均一性(英語版)によって根本的に挑戦され、不特定に分散した(非IID)データがクライアントのドリフトを誘導し、世界的な収束を著しく妨げている。 既存の手法では、空間領域勾配補正や正規化によってこのドリフトを緩和しようとするが、最適化信号の固有のスペクトル構造を見落としている。 本研究では,新しい周波数領域の観点からクライアントのドリフトを再考し,重要なスペクトルバイアスを明らかにする。クライアント固有の分布シフトを符号化する低周波成分に,クライアント間の勾配のばらつきが集中する一方,微細な特徴を表す高周波成分は比較的一貫したままである。 そこで本研究では,低周波信号の不一致を抑えることで不均一性を解消するスペクトル勾配フィルタフレームワークSpecGradFilterを提案する。 重要なことは、SpecGradFilterは一般化可能な原理であり、正確なFFTベースのトランケーションだけでなく、ガウスの縮退のような空間近似によっても有効であることを示す。 CIFAR-10/100やTiny-ImageNetのようなベンチマークでの大規模な実験により、SpecGradFilterは、無視できる通信オーバーヘッドを持つ高い非IID設定において、性能が著しく向上し、堅牢なフェデレーション最適化のための新しいパラダイムを確立した。

関連論文リスト

• Full spectrum Unlearnable Examples via Spectral Equalization [29.22443621401928]
  スペクトル等化(FUSE)によるフルスペクトル未学習例を提案する。 FUSEは、異なるバンドからのコントリビューションを等しくし、バンド間の一貫性を強制することにより、スペクトルに依存しない摂動を生成する。 複数のデータセット、アーキテクチャ、スペクトルフィルタリングにわたる実験は、FUSEによって達成された強力な保護を示す。
  論文  参考訳（メタデータ） (2026-06-25T07:53:53Z)
• Frequency-Domain Regularized Adversarial Alignment for Transferable Attacks against Closed-Source MLLMs [59.973833105841685]
  対向移動性を改善するための重要な課題は、異なるモデル間で共有される本質的な視覚的焦点を効果的に捉えることである。 本稿では、FRA-Attackを提案する。このFRA-Attackは、周波数領域の統一正規化の観点から、両方の課題に対処する。 機能アライメントのために、パッチ機能に対する高パスDCTは、冗長なグローバル構造を抑圧し、MLLMの固有の視覚的焦点を持つ高周波帯域の損失に集中する。 勾配最適化のために、代用勾配を変調するテキストモデルに依存しない低パス正規化器である周波数領域勾配正規化(FGR)を導入する。
  論文  参考訳（メタデータ） (2026-05-20T08:15:56Z)
• UMEDA: Unified Multi-modal Efficient Data Fusion for Privacy-Preserving Graph Federated Learning via Spectral-Gated Attention and Diffusion-Based Operator Alignment [20.399005485708273]
  デバイスフリーのローカライゼーションは、エッジデバイスに分散した異種無線および視覚センサーからモデルを訓練する。 クライアントが連続的な積分演算子を共有するグローバルグラフのノードを形成するグラフフェデレーション学習フレームワークであるUMEDAを提案する。 UMEDAは、最先端のフェデレーションベースラインを精度、収束性、通信効率で上回る。
  論文  参考訳（メタデータ） (2026-05-08T08:15:47Z)
• Physics-Aligned Spectral Mamba: Decoupling Semantics and Dynamics for Few-Shot Hyperspectral Target Detection [14.607792636586067]
  SpecMambaは、安定したセマンティック表現とアジャイルのスペクトル適応を分離するフレームワークである。 検出精度とクロスドメインの一般化において、最先端の手法を一貫して上回る。
  論文  参考訳（メタデータ） (2026-04-07T08:04:18Z)
• Enhancing Gradient Inversion Attacks in Federated Learning via Hierarchical Feature Optimization [56.95448807869383]
  フェデレートラーニング(FL)は、プライバシを保存する分散機械学習の魅力的なパラダイムとして登場した。 近年の研究では、FLシステムで交換される勾配もプライバシー漏洩に弱いことが報告されている。 我々は textbfGradient textbfInversion over textbfFeature textbfDomains (GIFD) を提案する。
  論文  参考訳（メタデータ） (2026-04-01T14:32:15Z)
• Fast Fourier Transform-Based Spectral and Temporal Gradient Filtering for Differential Privacy [1.5766082819987293]
  FFT強化カルマンフィルタ(FFTKF)を導入する。 FFTKFは、プライバシーノイズを少ない高周波成分に変えるために周波数領域フィルタリングを適用している。 MNIST、CIFAR-10、CIFAR-100、CNN、ワイドレスネット、ビジョントランスフォーマーによるTiny-ImageNetのDP-SGDやDiSKよりも高いテスト精度を実現する。
  論文  参考訳（メタデータ） (2025-05-07T14:38:58Z)
• Towards Anomaly-Aware Pre-Training and Fine-Tuning for Graph Anomaly Detection [59.042018542376596]
  グラフ異常検出(GAD)は近年注目度が高まりつつあるが、2つの重要な要因があるため、依然として困難である。 Anomaly-Aware Pre-Training and Fine-Tuning (APF)は、GADの課題を軽減するためのフレームワークである。 10のベンチマークデータセットに関する総合的な実験は、最先端のベースラインと比較してAPFの優れたパフォーマンスを検証する。
  論文  参考訳（メタデータ） (2025-04-19T09:57:35Z)
• Understanding Dataset Distillation via Spectral Filtering [69.07076441512612]
  多様なDD目標を統一するスペクトルフィルタリングフレームワークであるUniDDを紹介する。 UniDDは、DDの本質が基本的に周波数固有の特徴に合致していることを明らかにする。 この制限に対処するため,低周波情報と高周波情報の両方をカバーするためにフィルタパラメータを徐々に調整するCFM(Curriculum Frequency Matching)を提案する。
  論文  参考訳（メタデータ） (2025-03-03T06:22:34Z)
• GIFD: A Generative Gradient Inversion Method with Feature Domain Optimization [52.55628139825667]
  Federated Learning(FL)は、クライアントのプライバシを保護するための有望な分散機械学習フレームワークとして登場した。 近年の研究では、事前学習された生成逆ネットワーク(GAN)を事前知識として活用することにより、攻撃者が共有勾配を逆転し、FLシステムに対する機密データを回復できることが示されている。 textbfGradient textbfInversion over textbfFeature textbfDomains (GIFD)を提案する。
  論文  参考訳（メタデータ） (2023-08-09T04:34:21Z)
• Graph Federated Learning for CIoT Devices in Smart Home Applications [23.216140264163535]
  G-Fedfilt'と呼ばれるグラフフィルタリングに基づく新しいグラフ信号処理(GSP)に基づく集約ルールを提案する。 提案するアグリゲータは,グラフのトポロジに基づく情報の流れを構造化することができる。 モデルの一般化をテストする場合、FedAvgよりも2.41%$高い精度が得られる。
  論文  参考訳（メタデータ） (2022-12-29T17:57:19Z)
• FAMLP: A Frequency-Aware MLP-Like Architecture For Domain Generalization [73.41395947275473]
  本稿では、変換周波数領域において、ドメイン固有の特徴をフィルタリングする新しい周波数認識アーキテクチャを提案する。 3つのベンチマークの実験では、最先端の手法をそれぞれ3%、4%、9%のマージンで上回った。
  論文  参考訳（メタデータ） (2022-03-24T07:26:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。