論文の概要: Closing the Alignment-Maturity Gap in Federated Prototype Learning
- arxiv url: http://arxiv.org/abs/2606.02172v1
- Date: Mon, 01 Jun 2026 12:30:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-02 21:34:32.003427
- Title: Closing the Alignment-Maturity Gap in Federated Prototype Learning
- Title(参考訳): フェデレーション・プロトタイプ学習におけるアライメント・成熟ギャップの閉鎖
- Authors: Mario Casado-Diez, Alejandro Dopico-Castro, Verónica Bolón-Canedo, Bertha Guijarro-Berdiñas,
- Abstract要約: FedSAPは2つの相補的なメカニズムを通じてフェデレーション学習を安定化するフレームワークである。
実験では、評価されたプロトタイプベースラインよりも最大4ポイント向上した。
- 参考スコア(独自算出の注目度): 42.18063554577504
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Learning discriminative visual representations from distributed, heterogeneous data is a fundamental challenge in Federated Learning (FL). Prototype-based methods address statistical heterogeneity by sharing class-level representations across clients but create a distance-dependent gradient pressure that is particularly severe during early training rounds: alignment pressure applied to immature global prototypes, aggregated from noisy local representations, generates large gradients that suppress the emergence of local discriminative structure. The result is a poorly organized embedding space and degraded recognition performance, particularly under severe non-IID conditions. We propose FedSAP, a framework that stabilises federated representation learning through two complementary mechanisms: a deterministic alignment curriculum that delays global alignment until local representations become stable and a geometry-driven proxy separation loss that enforces inter-class structure on the unit hypersphere using the existing prototype bank without introducing additional parameters or communication overhead. Together, these mechanisms produce compact, well-separated class clusters without altering the underlying communication protocol between federation's participants. Experiments across three benchmarks and varying degrees of heterogeneity show gains of up to 4 percentage points over the prototype-based baselines evaluated, with improvements most pronounced under high heterogeneity. The representational nature of our framework further enables a straightforward extension to semi-supervised settings, where unlabelled data is incorporated with minimal modification, underscoring the generality of scheduled alignment as a design principle.
- Abstract(参考訳): 分散した異種データから識別的視覚表現を学習することは、フェデレートラーニング(FL)における根本的な課題である。
原型に基づく手法は, クライアント間でクラスレベルの表現を共有することによって, 統計的不均一性に対処するが, 早期訓練ラウンドにおいて特に重篤な距離依存的な勾配圧力を生成する: 未熟なグローバルプロトタイプに適用されるアライメント圧力は, 雑音の多い局所表現から集約され, 局所的な識別構造の発生を抑制する大きな勾配を生成する。
その結果, 特に非IID条件下では, 組込みスペースが不十分であり, 認識性能が低下することがわかった。
局所的な表現が安定するまでグローバルなアライメントを遅らせる決定論的アライメントカリキュラムと、既存のプロトタイプバンクを用いて単位超球面上のクラス間構造を強制する幾何学的プロキシ分離損失の2つの相補的なメカニズムにより、フェデラル表現学習を安定化させるフレームワークであるFedSAPを提案する。
これらのメカニズムが組み合わさって、フェデレーションの参加者間の基礎となる通信プロトコルを変更することなく、コンパクトで適切に分離されたクラスクラスタを生成する。
3つのベンチマークと様々な不均一性に関する実験では、評価されたプロトタイプベースラインよりも最大4ポイント向上し、高い不均一性の下で最も顕著な改善が見られた。
このフレームワークの表現的性質により、半教師付きセッティングへの直接的な拡張が可能となり、未ラベルデータを最小限の修正で組み込むことで、設計原則としてのスケジュールアライメントの一般性を強調できる。
関連論文リスト
- Hierarchical Consistency Learning for Test-time Adaptation in Camouflage Perception [50.278200968044665]
カモフラージュされた物体検出(COD)は、物理的属性を通して背景から最小限の知覚差を示すターゲットをローカライズすることを目的としている。
既存のメソッドは、静的なTrain-then-freezeパラダイムによって制約されており、ドメインの剛性と依存性のアノテーションに悩まされている。
動的表現再構成のためのテスト時間適応を統合した階層的一貫性学習フレームワークを提案する。
論文 参考訳(メタデータ) (2026-05-25T09:57:46Z) - Beyond Point-Wise Matching: Structural Representation Alignment for Accelerating Diffusion Transformers [93.3976834364707]
本稿では,特徴写像のリレーショナル幾何における整合性を実現する構造的RePresentation AlignmentフレームワークであるsREPAを提案する。
モデルが事前訓練された特徴から全体的空間配置と構造的相関を内包するように促すことにより、sREPAはより高速でより安定した収束を達成する。
論文 参考訳(メタデータ) (2026-05-16T12:01:04Z) - Hyperbolic Enhanced Representation Learning for Incomplete Multi-view Clustering [57.38215918201251]
本稿では,不完全なマルチビュークラスタリングのためのハイパーボリック拡張表現学習フレームワークであるHERLを提案する。
ポアンカレボール内で操作すると、HERLは表現学習を強化するために構造を意識した潜在空間を構築する。
HERLは最先端のアプローチよりも一貫して優れていることを示す。
論文 参考訳(メタデータ) (2026-04-18T10:50:46Z) - Weight-Informed Self-Explaining Clustering for Mixed-Type Tabular Data [63.62853416081748]
WISEは表現、特徴重み付け、クラスタリング、解釈を統一するフレームワークである。
クラスタリングを駆動する同じプリミティブに根ざした、忠実で人間解釈可能な説明を生成する。
論文 参考訳(メタデータ) (2026-04-07T13:18:31Z) - Self-Supervised Federated Learning under Data Heterogeneity for Label-Scarce Diatom Classification [1.1860671888891074]
実世界の代表的事例として、珪藻分類のための自己教師付きフェデレーションラーニング(SSFL)を紹介した。
本研究では,下流微調整におけるラベル付きデータ量の変化とラベル空間のミスアライメントについて検討した。
広範な実験により、SSFLは均質な条件と異質な条件の両方で、局所的な訓練よりも一貫して優れていた。
論文 参考訳(メタデータ) (2026-03-31T11:59:31Z) - FedORGP: Guiding Heterogeneous Federated Learning with Orthogonality Regularization on Global Prototypes [31.93057335216804]
フェデレートラーニング(FL)は、分散機械学習に不可欠なフレームワークとして登場した。
現在のアプローチでは、クラスを分離する際の制限に直面している。
本稿では,クラス内プロトタイプの類似性を奨励し,クラス間角分離を拡大するFedtFLORGを紹介する。
論文 参考訳(メタデータ) (2025-02-22T07:02:51Z) - Addressing Skewed Heterogeneity via Federated Prototype Rectification with Personalization [35.48757125452761]
フェデレートラーニング(Federated Learning)は、複数の分散デバイス間の協調モデルトレーニングを容易にするために設計された、効率的なフレームワークである。
連合学習の重要な課題は、データレベルの不均一性、すなわち、スキュードまたはロングテールのプライベートデータの分散である。
本稿では,フェデレーション・パーソナライゼーションとフェデレーション・プロトタイプ・レクティフィケーションの2つの部分からなる新しいフェデレーション・プロトタイプ・レクティフィケーションを提案する。
論文 参考訳(メタデータ) (2024-08-15T06:26:46Z) - Generalizable Heterogeneous Federated Cross-Correlation and Instance
Similarity Learning [60.058083574671834]
本稿では,新しいFCCL+,フェデレーション相関と非ターゲット蒸留との類似性学習を提案する。
不均一な問題に対しては、無関係な公開データを通信に活用する。
局所的な更新段階における破滅的な忘れ物として、FCCL+はFederated Non Target Distillationを導入している。
論文 参考訳(メタデータ) (2023-09-28T09:32:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。