論文の概要: Tram-FL: Reducing Communication and Computation Costs through Sequential Model Circulation in Decentralized Federated Learning
- arxiv url: http://arxiv.org/abs/2610.07859v1
- Date: Tue, 06 Oct 2026 07:01:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 02:58:29.862209
- Title: Tram-FL: Reducing Communication and Computation Costs through Sequential Model Circulation in Decentralized Federated Learning
- Title(参考訳): Tram-FL:分散型フェデレーション学習における逐次モデル循環によるコミュニケーションと計算コストの削減
- Abstract要約: この研究は、最小の計算と通信コストでDFLを実現することを目的として、モデル自体に焦点を移す。
本稿では,モデル循環型トレーニングにおけるトレーニングスケジューリング問題に対処し,どのノードがモデルを更新すべきか,実行すべき更新数を決定する。
量子化モーメントにより、Tram-FLはトランスミッション当たりの通信負荷を制御しながら、より少ないモデル循環で高い精度を達成する。
- 参考スコア(独自算出の注目度): 1.328617465549035
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Conventional decentralized federated learning (DFL) often focuses on clients, with each client maintaining a model copy, performing updates individually, and undertaking model exchange and integration. While fully leveraging computational resources can shorten training times, it can also lead to significant computational and communication waste. This is especially pronounced with non-independent and identically distributed (non-IID) data, where achieving high model accuracy demands extra resources. This research shifts focus to the model itself, aiming to realize DFL with minimal computation and communication costs. To this end, we propose Tram-FL (Traveling Model Training Mechanism for Decentralized Federated Learning), a mechanism designed to efficiently address these challenges. It sequentially trains a single model by circulating it among nodes. We address the training scheduling problem in model circulation-based training, specifically determining which nodes should update the model and the number of updates to perform. This is approached by considering the model's circulation route and update iteration allocation, for which we propose simple yet effective methods. Additionally, with quantized momentum, Tram-FL achieves high accuracy with fewer model circulations while controlling communication load per transmission. Experimental results show that the proposed algorithm, even with non-IID data, converges to a global model with reduced communication and computation.
- Abstract(参考訳): 従来の分散統合学習(DFL)は、しばしばクライアントに焦点を当て、各クライアントはモデルコピーを保持し、個別に更新を行い、モデルの交換と統合を行う。
完全に計算資源を活用すれば、トレーニング時間を短縮できるが、計算と通信の時間の浪費にも繋がる。
これは特に非独立で同一に分散した(非IID)データと発音され、高いモデル精度を達成するには余分なリソースを必要とする。
この研究は、最小の計算と通信コストでDFLを実現することを目的として、モデル自体に焦点を移す。
そこで本研究では,これらの課題を効果的に解決する機構であるTram-FLを提案する。
ノード間でそれを循環することで、単一のモデルを逐次トレーニングする。
本稿では,モデル循環型トレーニングにおけるトレーニングスケジューリング問題に対処し,どのノードがモデルを更新すべきか,実行すべき更新数を決定する。
本手法は,モデルの循環経路を考慮し,反復割り当てを更新することで提案する。
さらに、量子化モーメントにより、Tram-FLは送信毎の通信負荷を制御しながら、より少ないモデル循環で高い精度を達成する。
実験結果から, 提案アルゴリズムは, 非IIDデータであっても, 通信量と計算量を削減したグローバルモデルに収束することがわかった。
関連論文リスト
- Quantized Rank Reduction: A Communications-Efficient Federated Learning Scheme for Network-Critical Applications [1.8416014644193066]
フェデレート・ラーニング(Federated Learning)とは、複数のデバイス(エージェント)が生データを交換することなく、協調的に共有モデルをトレーニングできる機械学習アプローチである。
このテクニックは、データをユーザデバイスにローカライズし、プライバシとセキュリティを確保すると同時に、各エージェントが自身のデータ上でモデルをトレーニングし、モデル更新のみを共有する。
エージェントと中央サーバ間のモデル更新の頻繁な交換のため、通信オーバーヘッドは重大な課題である。
ニューラルネットワーク勾配の低ランク近似と量子化を利用して,分散学習プロセスのネットワーク負荷を大幅に低減し,モデルへの影響を最小限に抑える通信効率のよいフェデレート学習手法を提案する。
論文 参考訳(メタデータ) (2025-07-15T10:37:59Z) - Load-Aware Training Scheduling for Model Circulation-based Decentralized Federated Learning [2.847466645223566]
本稿では,Tram-FLの拡張であるLoad-Aware Tram-FLを提案する。
計算処理と通信コストの両方を含む全体的なトレーニング遅延は、目的関数によって最小化される。
MNIST と CIFAR-10 のシミュレーション結果から,負荷対応の Tram-FL はトレーニング時間を著しく短縮し,収束を加速することが示された。
論文 参考訳(メタデータ) (2025-06-11T14:09:53Z) - Federated Learning with Projected Trajectory Regularization [65.6266768678291]
フェデレーション学習は、ローカルデータを共有せずに、分散クライアントから機械学習モデルの共同トレーニングを可能にする。
連合学習における重要な課題の1つは、クライアントにまたがる識別できない分散データを扱うことである。
本稿では,データ問題に対処するための予測軌道正則化(FedPTR)を備えた新しいフェデレーション学習フレームワークを提案する。
論文 参考訳(メタデータ) (2023-12-22T02:12:08Z) - Scheduling and Communication Schemes for Decentralized Federated
Learning [0.31410859223862103]
勾配降下(SGD)アルゴリズムを用いた分散連合学習(DFL)モデルが導入された。
DFLの3つのスケジューリングポリシーがクライアントと並列サーバ間の通信のために提案されている。
その結果,提案した計画警察は,収束速度と最終グローバルモデルの両方に影響を及ぼすことがわかった。
論文 参考訳(メタデータ) (2023-11-27T17:35:28Z) - Adaptive Model Pruning and Personalization for Federated Learning over
Wireless Networks [72.59891661768177]
フェデレーション学習(FL)は、データプライバシを保護しながら、エッジデバイス間での分散学習を可能にする。
これらの課題を克服するために、部分的なモデルプルーニングとパーソナライズを備えたFLフレームワークを検討する。
このフレームワークは、学習モデルを、データ表現を学ぶためにすべてのデバイスと共有されるモデルプルーニングと、特定のデバイスのために微調整されるパーソナライズされた部分とで、グローバルな部分に分割する。
論文 参考訳(メタデータ) (2023-09-04T21:10:45Z) - Tram-FL: Routing-based Model Training for Decentralized Federated
Learning [2.8558942410497066]
そこで我々は,ノード間で順次転送することで,グローバルモデルを段階的に洗練する新しいDFL手法であるTram-FLを提案する。
また、最小転送量でモデル精度を向上させることを目的とした最適経路選択のための動的モデルルーティングアルゴリズムも導入する。
MNIST, CIFAR-10, IMDbデータセットを用いた実験により, 提案したルーティングを用いたトラムFLが非IID条件下で高いモデル精度を実現することを示す。
論文 参考訳(メタデータ) (2023-08-09T07:51:07Z) - Towards a Better Theoretical Understanding of Independent Subnetwork Training [56.24689348875711]
独立サブネットワークトレーニング(IST)の理論的考察
ISTは、上記の問題を解決するための、最近提案され、非常に効果的である。
圧縮通信を用いた分散手法など,ISTと代替手法の基本的な違いを同定する。
論文 参考訳(メタデータ) (2023-06-28T18:14:22Z) - Time-sensitive Learning for Heterogeneous Federated Edge Intelligence [52.83633954857744]
フェデレーションエッジインテリジェンス(FEI)システムにおけるリアルタイム機械学習について検討する。
FEIシステムは異種通信と計算資源分布を示す。
本稿では,共有MLモデルの協調学習における全体の実行時間を最小化するために,時間依存型フェデレーションラーニング(TS-FL)フレームワークを提案する。
論文 参考訳(メタデータ) (2023-01-26T08:13:22Z) - FedDM: Iterative Distribution Matching for Communication-Efficient
Federated Learning [87.08902493524556]
フェデレートラーニング(FL)は近年、学術や産業から注目を集めている。
我々は,複数の局所的代理関数からグローバルなトレーニング目標を構築するためのFedDMを提案する。
そこで本研究では,各クライアントにデータ集合を構築し,元のデータから得られた損失景観を局所的にマッチングする。
論文 参考訳(メタデータ) (2022-07-20T04:55:18Z) - To Talk or to Work: Delay Efficient Federated Learning over Mobile Edge
Devices [13.318419040823088]
モバイルデバイスは、中央サーバの調整の下で、自身のデータに基づいてモデルをトレーニングするために協力する。
データの中心的な可用性がなければ、計算ノードは収束を達成するためにしばしばモデル更新を伝える必要がある。
本稿では,モデルが収束するために必要な全時間(計算待ち時間と通信待ち時間の両方)と通信ラウンドを削減できる遅延効率FL機構を提案する。
論文 参考訳(メタデータ) (2021-11-01T00:35:32Z) - Federated Learning With Quantized Global Model Updates [84.55126371346452]
モバイル端末がローカルデータセットを使用してグローバルモデルをトレーニングできるフェデレーション学習について検討する。
本稿では,大域的モデルと局所的モデル更新の両方を,送信前に量子化する損失FL(LFL)アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-06-18T16:55:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。