論文の概要: TT-Prune: Joint Model Pruning and Resource Allocation for Communication-efficient Time-triggered Federated Learning
- arxiv url: http://arxiv.org/abs/2511.04653v1
- Date: Thu, 06 Nov 2025 18:43:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-11-07 20:17:53.565017
- Title: TT-Prune: Joint Model Pruning and Resource Allocation for Communication-efficient Time-triggered Federated Learning
- Title(参考訳): TT-Prune:通信効率のよいフェデレーション学習のための共同モデルプランニングと資源配分
- Authors: Xinlu Zhang, Yansha Deng, Toktam Mahmoodi,
- Abstract要約: フェデレーション・ラーニング(FL)は、機械学習、特にデータプライバシの懸念に対処する新たな機会を提供する。
本稿では,無線TT-Fedシステムにおける適応型モデルプルーニングを提案する。
モデルプルーニングにより,同一レベルのモデル性能を維持しながら通信コストを40%削減できることを示す。
- 参考スコア(独自算出の注目度): 27.911410305379444
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Federated learning (FL) offers new opportunities in machine learning, particularly in addressing data privacy concerns. In contrast to conventional event-based federated learning, time-triggered federated learning (TT-Fed), as a general form of both asynchronous and synchronous FL, clusters users into different tiers based on fixed time intervals. However, the FL network consists of a growing number of user devices with limited wireless bandwidth, consequently magnifying issues such as stragglers and communication overhead. In this paper, we introduce adaptive model pruning to wireless TT-Fed systems and study the problem of jointly optimizing the pruning ratio and bandwidth allocation to minimize the training loss while ensuring minimal learning latency. To answer this question, we perform convergence analysis on the gradient l_2 norm of the TT-Fed model based on model pruning. Based on the obtained convergence upper bound, a joint optimization problem of pruning ratio and wireless bandwidth is formulated to minimize the model training loss under a given delay threshold. Then, we derive closed-form solutions for wireless bandwidth and pruning ratio using Karush-Kuhn-Tucker(KKT) conditions. The simulation results show that model pruning could reduce the communication cost by 40% while maintaining the model performance at the same level.
- Abstract(参考訳): フェデレーション・ラーニング(FL)は、機械学習、特にデータプライバシの懸念に対処する新たな機会を提供する。
従来のイベントベースのフェデレーションラーニングとは対照的に、非同期と同期両方のFLの一般的な形式として、タイムトリガー付きフェデレーションラーニング(TT-Fed)は、固定時間間隔に基づいて異なる階層にユーザをクラスタ化する。
しかし、FLネットワークは、無線帯域が限られているユーザデバイスが増えているため、トラグラーや通信オーバーヘッドなどの大きな問題が増大する。
本稿では,無線TT-Fedシステムへの適応型プルーニングを導入し,学習遅延を最小限に抑えつつ,トレーニング損失を最小限に抑えるために,プルーニング率と帯域割り当てを協調的に最適化する問題について検討する。
この問題に答えるために、モデルプルーニングに基づくTT-Fedモデルの勾配l_2ノルムの収束解析を行う。
得られた収束上限に基づいて、プルーニング比と無線帯域幅の合同最適化問題を定式化し、所定の遅延閾値下でのモデルトレーニング損失を最小化する。
そして、KKT条件を用いて、無線帯域幅とプルーニング比の閉形式解を導出する。
シミュレーションの結果,モデルプルーニングは同一レベルのモデル性能を維持しながら通信コストを40%削減できることがわかった。
関連論文リスト
- Lightweight Federated Learning over Wireless Edge Networks [83.4818741890634]
Federated (FL) はネットワークエッジの代替品であるが、無線ネットワークでは代替品である。
閉形式式FL収束ギャップ伝送パワー,モデルプルーニング誤差,量子化を導出する。
LTFLは、実世界のデータセットの実験において最先端のスキームよりも優れている。
論文 参考訳(メタデータ) (2025-07-13T09:14:17Z) - Joint Model Pruning and Resource Allocation for Wireless Time-triggered Federated Learning [31.628735588144096]
タイムトリガー付きフェデレーション学習は、一定時間間隔に基づいてユーザーを階層に編成する。
無線時間トリガーシステムにモデルプルーニングを適用し、プルーニング比と帯域幅割り当ての最適化に関する問題を共同研究する。
提案するTT-Pruneは,モデルプルーニングを伴わない非同期多層FLと比較して,通信コストを40%削減することを示した。
論文 参考訳(メタデータ) (2024-08-03T12:19:23Z) - Adaptive Model Pruning and Personalization for Federated Learning over
Wireless Networks [72.59891661768177]
フェデレーション学習(FL)は、データプライバシを保護しながら、エッジデバイス間での分散学習を可能にする。
これらの課題を克服するために、部分的なモデルプルーニングとパーソナライズを備えたFLフレームワークを検討する。
このフレームワークは、学習モデルを、データ表現を学ぶためにすべてのデバイスと共有されるモデルプルーニングと、特定のデバイスのために微調整されるパーソナライズされた部分とで、グローバルな部分に分割する。
論文 参考訳(メタデータ) (2023-09-04T21:10:45Z) - Adaptive Federated Pruning in Hierarchical Wireless Networks [69.6417645730093]
Federated Learning(FL)は、サーバがプライベートデータセットにアクセスすることなく、複数のデバイスによって更新されたモデルを集約する、プライバシ保護の分散学習フレームワークである。
本稿では,無線ネットワークにおけるHFLのモデルプルーニングを導入し,ニューラルネットワークの規模を小さくする。
提案するHFLは,モデルプルーニングを伴わないHFLと比較して学習精度が良く,通信コストが約50%削減できることを示す。
論文 参考訳(メタデータ) (2023-05-15T22:04:49Z) - Time-sensitive Learning for Heterogeneous Federated Edge Intelligence [52.83633954857744]
フェデレーションエッジインテリジェンス(FEI)システムにおけるリアルタイム機械学習について検討する。
FEIシステムは異種通信と計算資源分布を示す。
本稿では,共有MLモデルの協調学習における全体の実行時間を最小化するために,時間依存型フェデレーションラーニング(TS-FL)フレームワークを提案する。
論文 参考訳(メタデータ) (2023-01-26T08:13:22Z) - Time-triggered Federated Learning over Wireless Networks [48.389824560183776]
無線ネットワーク上での時系列FLアルゴリズム(TT-Fed)を提案する。
提案したTT-Fedアルゴリズムは, それぞれ最大12.5%, 5%の収束試験精度を向上する。
論文 参考訳(メタデータ) (2022-04-26T16:37:29Z) - Unit-Modulus Wireless Federated Learning Via Penalty Alternating
Minimization [64.76619508293966]
Wireless Federated Learning(FL)は、分散データセットから無線通信を介してグローバルパラメトリックモデルをトレーニングする、新興機械学習パラダイムである。
本稿では、ローカルモデルパラメータをアップロードし、無線通信を介してグローバルモデルパラメータを算出する無線FLフレームワークを提案する。
論文 参考訳(メタデータ) (2021-08-31T08:19:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。