論文の概要: SubFLOT: Submodel Extraction for Efficient and Personalized Federated Learning via Optimal Transport

• arxiv url: http://arxiv.org/abs/2604.06631v1
• Date: Wed, 08 Apr 2026 03:13:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-09 17:30:51.320347
• Title: SubFLOT: Submodel Extraction for Efficient and Personalized Federated Learning via Optimal Transport
• Title（参考訳）: SubFLOT: 最適輸送による効率的かつパーソナライズされたフェデレーション学習のためのサブモデル抽出
• Authors: Zheng Jiang, Nan He, Yiming Chen, Lifeng Sun,
• Abstract要約: フェデレートラーニング(FL)は、データのプライバシを維持しながら協調的なモデルトレーニングを可能にする。 サーバサイドのプルーニングはパーソナライズを欠いているが、クライアントサイドのプルーニングはリソース制約のあるデバイスでは計算的に禁止されている。 サーバ側パーソナライズド・フェデレーション・プルーニングのための新しいフレームワークであるSubFLOTを提案する。
• 参考スコア（独自算出の注目度）: 13.848917214804198
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Federated Learning (FL) enables collaborative model training while preserving data privacy, but its practical deployment is hampered by system and statistical heterogeneity. While federated network pruning offers a path to mitigate these issues, existing methods face a critical dilemma: server-side pruning lacks personalization, whereas client-side pruning is computationally prohibitive for resource-constrained devices. Furthermore, the pruning process itself induces significant parametric divergence among heterogeneous submodels, destabilizing training and hindering global convergence. To address these challenges, we propose SubFLOT, a novel framework for server-side personalized federated pruning. SubFLOT introduces an Optimal Transport-enhanced Pruning (OTP) module that treats historical client models as proxies for local data distributions, formulating the pruning task as a Wasserstein distance minimization problem to generate customized submodels without accessing raw data. Concurrently, to counteract parametric divergence, our Scaling-based Adaptive Regularization (SAR) module adaptively penalizes a submodel's deviation from the global model, with the penalty's strength scaled by the client's pruning rate. Comprehensive experiments demonstrate that SubFLOT consistently and substantially outperforms state-of-the-art methods, underscoring its potential for deploying efficient and personalized models on resource-constrained edge devices.
• Abstract（参考訳）: フェデレートラーニング(FL)は、データのプライバシーを維持しながら協調的なモデルトレーニングを可能にするが、その実践的展開はシステムと統計的不均一性によって妨げられる。 フェデレートされたネットワークプルーニングはこれらの問題を緩和する道を提供するが、既存の手法は重大なジレンマに直面している。 さらに、プルーニングプロセス自体が不均一なサブモデル間で有意なパラメトリックなばらつきを引き起こし、トレーニングを不安定化し、世界的な収束を妨げる。 これらの課題に対処するため、サーバサイドのパーソナライズド・フェデレーション・プルーニングのための新しいフレームワークであるSubFLOTを提案する。 SubFLOTは、履歴クライアントモデルをローカルデータ配信のプロキシとして扱い、プルーニングタスクをワッサーシュタイン距離最小化問題として定式化し、生データにアクセスせずにカスタマイズされたサブモデルを生成する、最適なトランスポート強化プルーニング(OTP)モジュールを導入している。 同時に,我々のスケーリングベースの適応正規化(SAR)モジュールは,サブモデルのグローバルモデルからの偏差を適応的に補償し,クライアントのプルーニング速度によってペナルティの強度を拡大する。 包括的実験により、SubFLOTは、リソース制約されたエッジデバイスに効率的でパーソナライズされたモデルをデプロイする可能性を示す、最先端の手法を一貫して、実質的に上回ることを示した。

関連論文リスト

• Adaptive Dual-Weighting Framework for Federated Learning via Out-of-Distribution Detection [53.45696787935487]
  Federated Learning (FL)は、大規模分散サービスノード間の協調的なモデルトレーニングを可能にする。 実世界のサービス指向デプロイメントでは、異種ユーザ、デバイス、アプリケーションシナリオによって生成されたデータは本質的にIIDではない。 FLoodは、オフ・オブ・ディストリビューション(OOD)検出にインスパイアされた新しいFLフレームワークである。
  論文  参考訳（メタデータ） (2026-02-01T05:54:59Z)
• Mitigating Catastrophic Forgetting with Adaptive Transformer Block Expansion in Federated Fine-Tuning [25.121545962121907]
  大規模言語モデル(LLM)のFedFT(Federated Fine-tuning)は、分散データ環境にモデルを適用するための有望なソリューションとして登場した。 適応型トランスフォーマーブロック拡張機構と動的トレーニング可能なブロック割り当て戦略を統合した新しいFedFTフレームワークであるFedBEを提案する。 その結果、FedBEは、下流タスクの精度を劣化させることなく、微調整後の一般タスクにおける12～74%の精度保持と1.9～3.1xのモデル収束促進比を実現していることがわかった。
  論文  参考訳（メタデータ） (2025-06-06T10:59:11Z)
• FedRTS: Federated Robust Pruning via Combinatorial Thompson Sampling [11.913924455236652]
  フェデレートラーニング(FL)は、データ共有なしで分散クライアント間で協調的なモデルトレーニングを可能にする。 現在の手法では、疎密性を維持しながらスパースモデルトポロジを周期的に調整することで、動的プルーニングを用いて効率を向上させる。 我々は,堅牢なスパースモデルの開発を目的とした新しいフレームワークであるThompson Sampling (FedRTS) によるフェデレートロバスト刈取を提案する。
  論文  参考訳（メタデータ） (2025-01-31T13:26:22Z)
• FedSPU: Personalized Federated Learning for Resource-constrained Devices with Stochastic Parameter Update [0.27309692684728615]
  フェデレートラーニング(PFL)は、高ボリュームの非IDクライアントデータを処理するために、IoTアプリケーションに広く使用されている。 FedSPUはFederated Dropoutを平均7.57%上回っている。 早期停止方式を導入し、高精度を維持しながらトレーニング時間を24.8%から70.4%削減した。
  論文  参考訳（メタデータ） (2024-03-18T04:31:38Z)
• Towards Instance-adaptive Inference for Federated Learning [80.38701896056828]
  Federated Learning(FL)は、複数のクライアントがローカルトレーニングを集約することで、強力なグローバルモデルを学ぶことができる分散学習パラダイムである。 本稿では,FedInsという新しいFLアルゴリズムを提案する。 我々のFedInsは、Tiny-ImageNet上での通信コストが15%未満で、トップパフォーマンスの手法に対して6.64%の改善など、最先端のFLアルゴリズムよりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-08-11T09:58:47Z)
• Towards More Suitable Personalization in Federated Learning via Decentralized Partial Model Training [67.67045085186797]
  既存のシステムのほとんどは、中央のFLサーバが失敗した場合、大きな通信負荷に直面しなければならない。 共有パラメータと個人パラメータを交互に更新することで、ディープモデルの「右」をパーソナライズする。 共有パラメータアグリゲーションプロセスをさらに促進するために、ローカルシャープネス最小化を統合するDFedを提案する。
  論文  参考訳（メタデータ） (2023-05-24T13:52:18Z)
• Personalized Federated Learning under Mixture of Distributions [98.25444470990107]
  本稿では,ガウス混合モデル(GMM)を用いたPFL(Personalized Federated Learning)を提案する。 FedGMMはオーバーヘッドを最小限に抑え、新しいクライアントに適応する付加的なアドバンテージを持ち、不確実な定量化を可能にします。 PFL分類と新しいサンプル検出の両方において, 合成データセットとベンチマークデータセットの実証評価により, 提案手法の優れた性能を示した。
  論文  参考訳（メタデータ） (2023-05-01T20:04:46Z)
• Adaptive Subcarrier, Parameter, and Power Allocation for Partitioned Edge Learning Over Broadband Channels [69.18343801164741]
  パーティショニングエッジ学習(PARTEL)は、無線ネットワークにおいてよく知られた分散学習手法であるパラメータサーバトレーニングを実装している。 本稿では、いくつかの補助変数を導入してParticleELを用いてトレーニングできるディープニューラルネットワーク(DNN)モデルについて考察する。
  論文  参考訳（メタデータ） (2020-10-08T15:27:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。