論文の概要: Collate: Collaborative Neural Network Learning for Latency-Critical Edge Systems
- arxiv url: http://arxiv.org/abs/2607.08013v1
- Date: Thu, 09 Jul 2026 00:39:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-10 14:45:27.376622
- Title: Collate: Collaborative Neural Network Learning for Latency-Critical Edge Systems
- Title(参考訳): Collate: レイテンシクリティカルエッジシステムのための協調ニューラルネットワーク学習
- Abstract要約: フェデレートラーニング(FL)は、複数のクライアントが協力してモデルを学習し、データのプライバシを保護しながら、各クライアントのトレーニングデータを高精度に拡張する。
既存のFLの最適化では、トレーニング効率の改善に重点を置いているが、特にレイテンシの制約がある場合、推論のスピードアップに失敗している。
複数エッジシステムのレイテンシ制約を同時に満たすために、異種モデルを協調的に学習する新しいトレーニングフレームワークであるCollateを提案する。
- 参考スコア(独自算出の注目度): 14.758436987654504
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Federated Learning (FL) empowers multiple clients to collaboratively learn a model, enlarging the training data of each client for high accuracy while protecting data privacy. However, when deploying FL in real-time edge systems, the heterogeneity of devices among systems has a severe impact on the performance of the inferred model. Existing optimizations on FL focus on improving the training efficiency but fail to speed up inference, especially when there is a latency constraint. In this work, we propose Collate, a novel training framework that collaboratively learns heterogeneous models to meet the latency constraints of multiple edge systems simultaneously. We design a dynamic zeroizing-recovering method to adjust each local model architecture for high accuracy under its latency constraint. A proto-corrected federated aggregation scheme is also introduced to aggregate all heterogeneous local models, satisfying the latency constraint of different systems with only one training process and maintaining high accuracy. Extensive experiments indicate that, compared to state-of-the-art methods and under a latency constraint, our extended models can improve the accuracy by 1.96% on average, and our shrunk models can also obtain a 3.09% accuracy improvement on average, with almost no extra training overhead. The related codes and data will be available at https://github.com/ntuliuteam/Collate
- Abstract(参考訳): フェデレートラーニング(FL)は、複数のクライアントが協力してモデルを学習し、データのプライバシを保護しながら、各クライアントのトレーニングデータを高精度に拡張する。
しかし、FLをリアルタイムエッジシステムにデプロイする場合、システム間のデバイスの不均一性は、推定モデルの性能に深刻な影響を及ぼす。
既存のFLの最適化では、トレーニング効率の改善に重点を置いているが、特にレイテンシの制約がある場合、推論のスピードアップに失敗している。
本研究では,複数のエッジシステムのレイテンシ制約を同時に満たすため,異種モデルを協調的に学習する新しいトレーニングフレームワークであるCollateを提案する。
遅延制約下で各局所モデルアーキテクチャを高精度に調整する動的ゼロ化回収法を設計する。
また、不均一な局所モデルをすべて集約し、異なるシステムの遅延制約を1つのトレーニングプロセスのみで満たし、高精度を維持するために、プロト補正フェデレーションアグリゲーションスキームも導入された。
拡張モデルでは,最先端の手法や遅延制約に比較して,平均1.96%の精度向上が可能であり,スランクモデルでは平均3.09%の精度向上が可能であり,トレーニングオーバーヘッドがほとんどない。
関連コードとデータはhttps://github.com/ntuliuteam/Collate.comで公開される。
関連論文リスト
- SMoFi: Step-wise Momentum Fusion for Split Federated Learning on Heterogeneous Data [11.41105795202393]
Split Federated Learningは、モデルのパーティションをトレーニングするために、中央サーバでリッチなコンピューティングリソースを使用する。
サイロ間のデータの異質性は、グローバルモデルの収束速度と精度を損なう大きな課題である。
本稿では,勾配の発散に対処する効果的で軽量なフレームワークであるSMoFiについて紹介する。
論文 参考訳(メタデータ) (2025-11-13T00:21:05Z) - Adaptive Deadline and Batch Layered Synchronized Federated Learning [66.93447103966439]
フェデレートラーニング(FL)は、データプライバシを保持しながら、分散エッジデバイス間で協調的なモデルトレーニングを可能にする。
我々は,レイヤワイドアグリゲーションのために,ラウンド単位の期限とユーザ固有のバッチサイズを共同で最適化する新しいフレームワークADEL-FLを提案する。
論文 参考訳(メタデータ) (2025-05-29T19:59:18Z) - Client-Centric Federated Adaptive Optimization [78.30827455292827]
Federated Learning(FL)は、クライアントが独自のデータをプライベートに保ちながら、協調的にモデルをトレーニングする分散学習パラダイムである。
本稿では,新しいフェデレーション最適化手法のクラスであるフェデレーション中心適応最適化を提案する。
論文 参考訳(メタデータ) (2025-01-17T04:00:50Z) - FedAST: Federated Asynchronous Simultaneous Training [27.492821176616815]
フェデレートラーニング(FL)は、デバイスやクライアントがプライベートデータを共有せずに機械学習(ML)モデルを協調的にトレーニングすることを可能にする。
FLにおける既存の作業の多くは、1つのタスクのモデルを効率的に学習することに集中しています。
本稿では,共通データセットを用いた複数のFLモデルの同時学習を提案する。
論文 参考訳(メタデータ) (2024-06-01T05:14:20Z) - Adaptive Model Pruning and Personalization for Federated Learning over
Wireless Networks [72.59891661768177]
フェデレーション学習(FL)は、データプライバシを保護しながら、エッジデバイス間での分散学習を可能にする。
これらの課題を克服するために、部分的なモデルプルーニングとパーソナライズを備えたFLフレームワークを検討する。
このフレームワークは、学習モデルを、データ表現を学ぶためにすべてのデバイスと共有されるモデルプルーニングと、特定のデバイスのために微調整されるパーソナライズされた部分とで、グローバルな部分に分割する。
論文 参考訳(メタデータ) (2023-09-04T21:10:45Z) - Towards Instance-adaptive Inference for Federated Learning [80.38701896056828]
Federated Learning(FL)は、複数のクライアントがローカルトレーニングを集約することで、強力なグローバルモデルを学ぶことができる分散学習パラダイムである。
本稿では,FedInsという新しいFLアルゴリズムを提案する。
我々のFedInsは、Tiny-ImageNet上での通信コストが15%未満で、トップパフォーマンスの手法に対して6.64%の改善など、最先端のFLアルゴリズムよりも優れていることを示す。
論文 参考訳(メタデータ) (2023-08-11T09:58:47Z) - Time-sensitive Learning for Heterogeneous Federated Edge Intelligence [52.83633954857744]
フェデレーションエッジインテリジェンス(FEI)システムにおけるリアルタイム機械学習について検討する。
FEIシステムは異種通信と計算資源分布を示す。
本稿では,共有MLモデルの協調学習における全体の実行時間を最小化するために,時間依存型フェデレーションラーニング(TS-FL)フレームワークを提案する。
論文 参考訳(メタデータ) (2023-01-26T08:13:22Z) - Stochastic Coded Federated Learning: Theoretical Analysis and Incentive
Mechanism Design [18.675244280002428]
我々は、コード化されたコンピューティング技術を活用する新しいFLフレームワーク、コード付きフェデレーションラーニング(SCFL)を提案する。
SCFLでは、各エッジデバイスがプライバシを保存するコード化されたデータセットをサーバにアップロードする。
SCFLは、与えられた時間内でより良いモデルを学び、ベースライン方式よりも優れたプライバシーとパフォーマンスのトレードオフを実現する。
論文 参考訳(メタデータ) (2022-11-08T09:58:36Z) - Acceleration of Federated Learning with Alleviated Forgetting in Local
Training [61.231021417674235]
フェデレートラーニング(FL)は、プライバシを保護しながら機械学習モデルの分散最適化を可能にする。
我々は,FedRegを提案する。FedRegは,局所的な訓練段階において,知識を忘れることなくFLを加速するアルゴリズムである。
我々の実験は、FedRegはFLの収束率を著しく改善するだけでなく、特にニューラルネットワークアーキテクチャが深い場合にも改善することを示した。
論文 参考訳(メタデータ) (2022-03-05T02:31:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。