論文の概要: When Is Shallow Enough? Adaptive Split Federated Learning with Client-Specific Sufficiency Estimation
- arxiv url: http://arxiv.org/abs/2608.15639v2
- Date: Thu, 20 Aug 2026 05:39:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-21 14:00:35.363047
- Title: When Is Shallow Enough? Adaptive Split Federated Learning with Client-Specific Sufficiency Estimation
- Title(参考訳): 浅すぎるのはいつか? クライアントに特有な充足度推定を用いた適応型分断フェデレーション学習
- Abstract要約: クライアントの不均一性の下では、従来の静的スプリット戦略は最適ではないかもしれない。
我々はtextbfSufficiency-textbfGuided textbfAdaptive split textbfFederated Learning framework である textscFedSGA を提案する。
- 参考スコア(独自算出の注目度): 8.3131553967982
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: \textit{Split Federated Learning} (SFL) enables distributed model training by splitting networks between the server and clients. However, under client heterogeneity, the conventional static split strategy may be suboptimal because clients can differ in data distributions, adaptation dynamics, and representation learning progress, making a single split point insufficient to accommodate client-specific training states. In this paper, we propose \textsc{FedSGA}, a \textbf{S}ufficiency-\textbf{G}uided \textbf{A}daptive split \textbf{Fed}erated learning framework that addresses this question through client-specific shallow sufficiency estimation. First, we introduce a client-specific adaptation channel based on private prompt tokens, which tracks local adaptation dynamics separately from the shared backbone and provides a lightweight signal for detecting whether client adaptation remains active. To further avoid repeated online probing over multiple candidate depths, we design a shallow sufficiency estimator that combines cross-client semantic alignment, temporal interface stability, and prompt-state variation to estimate whether the shallowest split is already sufficient. Finally, we introduce a split-compatible interface harmonization module that projects activations from different split depths into a shared semantic space, improving the comparability of heterogeneous client interfaces before server-side prediction. Extensive experiments on multiple heterogeneous benchmarks demonstrate the effectiveness of \textsc{FedSGA} in improving model performance compared with state-of-the-art methods while reducing unnecessary client-side computation.
- Abstract(参考訳): \textit{Split Federated Learning} (SFL)は、サーバとクライアント間のネットワーク分割による分散モデルトレーニングを可能にする。
しかし、クライアントの不均一性の下では、従来の静的スプリット戦略は、クライアントがデータ分散、適応力学、表現学習の進歩が異なる可能性があるため、クライアント固有のトレーニング状態を満たすには単一スプリットポイントが不十分である。
本稿では,クライアント固有の浅度充足度推定を通じてこの問題に対処する学習フレームワークとして,textsc{FedSGA}, a \textbf{S}ufficiency-\textbf{G}uided \textbf{A}daptive split \textbf{Fed}erated learning frameworkを提案する。
まず、プライベートプロンプトトークンに基づくクライアント固有の適応チャネルを導入し、共有バックボーンから独立してローカル適応のダイナミクスを追跡し、クライアント適応がアクティブであるかどうかを検出するための軽量信号を提供する。
さらに,複数の候補深度を網羅したオンライン探索の繰り返しを回避するために,最浅分割が既に十分であるかどうかを推定するために,クロスクオリエントなセマンティックアライメント,時間的インターフェース安定性,即時状態の変動を組み合わせた浅部飽和度推定器を設計する。
最後に,異なる分割深度からのアクティベーションを共有意味空間に投影する分割互換インタフェース調和モジュールを導入し,サーバ側予測の前に異種クライアントインタフェースの互換性を向上させる。
複数のヘテロジニアスなベンチマークに対する大規模な実験は、不要なクライアント側計算を削減しつつ、最先端の手法と比較してモデル性能を改善するために \textsc{FedSGA} の有効性を示す。
関連論文リスト
- BESplit: Bias-Compensated Split Federated Learning with Evidential Aggregation [2.5015678499211407]
Split Federated Learning (SFL)は、クライアントとサーバ間でモデルを分割することで、プライバシ保護による協調トレーニングを可能にする。
非IIDデータ分布では、SFLは偏りのある最適化と不安定な収束に悩まされることが多い。
非IID効果を軽減するために,SFLの本質的な構造を利用したアーキテクチャ対応フレームワークBESplitを提案する。
論文 参考訳(メタデータ) (2026-05-17T15:42:33Z) - Enhancing Federated Quadruplet Learning: Stochastic Client Selection and Embedding Stability Analysis [2.298932494750101]
フェデレートラーニング(FL)は、データ集中化を必要とせずに、分散クライアント間の分散モデルトレーニングを可能にする。
我々は,クラス間分割をクライアント間で実現しつつ,クラス内表現の最小化を明示的に実施する新しい方法であるFedQuadを提案する。
論文 参考訳(メタデータ) (2026-05-08T15:34:41Z) - Replacing Parameters with Preferences: Federated Alignment of Heterogeneous Vision-Language Models [63.70401095689976]
VLM(Vision-Language Models)は、医療や金融といったプライバシに敏感な分野において大きな可能性を秘めている。
ヘテロジニアスVLMのためのGRPOとMixture-of-Rewardsを組み合わせた協調アライメントフレームワークであるMoRを提案する。
MoRは、一般化とクロスクライアント適応性において、フェデレートされたアライメントベースラインを一貫して上回る。
論文 参考訳(メタデータ) (2026-05-05T07:02:50Z) - Client-Centric Federated Adaptive Optimization [78.30827455292827]
Federated Learning(FL)は、クライアントが独自のデータをプライベートに保ちながら、協調的にモデルをトレーニングする分散学習パラダイムである。
本稿では,新しいフェデレーション最適化手法のクラスであるフェデレーション中心適応最適化を提案する。
論文 参考訳(メタデータ) (2025-01-17T04:00:50Z) - Asynchronous Federated Stochastic Optimization for Heterogeneous Objectives Under Arbitrary Delays [1.9766522384767224]
underlineAsynchunderlineRonous underlineExact underlineAveraging (textscAREA)
textscAREAは勾配推定よりもモデル残差を通信し、勾配反転への露出を減らす。
最初は、最低または最大ではなく、平均的なクライアント更新頻度でスケールするレートを取得しました。
論文 参考訳(メタデータ) (2024-05-16T14:22:49Z) - Personalized Federated Learning via Sequential Layer Expansion in Representation Learning [0.0]
フェデレーション学習は、個々のクライアントデバイス上で分散トレーニングを行い、中央サーバでモデルウェイトのみを共有することによって、クライアントのプライバシを保証する。
本稿では,ディープラーニングモデル全体をより密に分割した部分に分割し,適切なスケジューリング手法を適用した表現学習に基づく新しいアプローチを提案する。
論文 参考訳(メタデータ) (2024-04-27T06:37:19Z) - Effectively Heterogeneous Federated Learning: A Pairing and Split
Learning Based Approach [16.093068118849246]
本稿では,クライアントと異なる計算資源をペアリングする,新しい分割フェデレーション学習(SFL)フレームワークを提案する。
グラフエッジ選択問題として,学習遅延の最適化を再構築し,グレディアルゴリズムを提案する。
シミュレーションの結果,提案手法はFLトレーニング速度を大幅に向上し,高い性能を実現することができることがわかった。
論文 参考訳(メタデータ) (2023-08-26T11:10:54Z) - Towards Instance-adaptive Inference for Federated Learning [80.38701896056828]
Federated Learning(FL)は、複数のクライアントがローカルトレーニングを集約することで、強力なグローバルモデルを学ぶことができる分散学習パラダイムである。
本稿では,FedInsという新しいFLアルゴリズムを提案する。
我々のFedInsは、Tiny-ImageNet上での通信コストが15%未満で、トップパフォーマンスの手法に対して6.64%の改善など、最先端のFLアルゴリズムよりも優れていることを示す。
論文 参考訳(メタデータ) (2023-08-11T09:58:47Z) - Provably Personalized and Robust Federated Learning [47.50663360022456]
類似したクライアントのクラスタを識別し、パーソナライズされたモデルパークラスタを訓練する簡単なアルゴリズムを提案する。
アルゴリズムの収束率は、クライアントの真の基盤となるクラスタリングを知っていれば得られるものと一致します。
論文 参考訳(メタデータ) (2023-06-14T09:37:39Z) - Personalized Federated Learning under Mixture of Distributions [98.25444470990107]
本稿では,ガウス混合モデル(GMM)を用いたPFL(Personalized Federated Learning)を提案する。
FedGMMはオーバーヘッドを最小限に抑え、新しいクライアントに適応する付加的なアドバンテージを持ち、不確実な定量化を可能にします。
PFL分類と新しいサンプル検出の両方において, 合成データセットとベンチマークデータセットの実証評価により, 提案手法の優れた性能を示した。
論文 参考訳(メタデータ) (2023-05-01T20:04:46Z) - FilFL: Client Filtering for Optimized Client Participation in Federated Learning [71.46173076298957]
フェデレートラーニングは、クライアントがローカルデータを交換することなく、協調的にモデルをトレーニングすることを可能にする。
トレーニングプロセスに参加するクライアントは、収束率、学習効率、モデル一般化に大きな影響を与えます。
本稿では,モデル一般化を改善し,クライアント参加とトレーニングを最適化する新しい手法であるクライアントフィルタリングを提案する。
論文 参考訳(メタデータ) (2023-02-13T18:55:31Z) - Efficient Distribution Similarity Identification in Clustered Federated
Learning via Principal Angles Between Client Data Subspaces [59.33965805898736]
クラスタ学習は、クライアントをクラスタにグループ化することで、有望な結果をもたらすことが示されている。
既存のFLアルゴリズムは基本的に、クライアントを同様のディストリビューションでグループ化しようとしている。
以前のFLアルゴリズムは、訓練中に間接的に類似性を試みていた。
論文 参考訳(メタデータ) (2022-09-21T17:37:54Z) - AdaSplit: Adaptive Trade-offs for Resource-constrained Distributed Deep
Learning [18.3841463794885]
Split Learning (SL)は、クライアントとサーバの間でモデルのトレーニングを分割することで、クライアントの計算負荷を削減する。
AdaSplitは、帯域幅の削減と異種クライアント間のパフォーマンス向上により、SLをリソースの少ないシナリオに効率的にスケーリングすることを可能にする。
論文 参考訳(メタデータ) (2021-12-02T23:33:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。