論文の概要: ParaBlock++: Communication-Computation Parallel Blockwise Hierarchical Federated Learning
- arxiv url: http://arxiv.org/abs/2611.01040v1
- Date: Sat, 31 Oct 2026 15:30:03 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-03 19:59:33.697417
- Title: ParaBlock++: Communication-Computation Parallel Blockwise Hierarchical Federated Learning
- Title(参考訳): ParaBlock++: 通信計算並列ブロックワイズ階層的フェデレーションラーニング
- Abstract要約: AI駆動サービスがリソース制約のあるインフラストラクチャ上で運用される、新たな6Gパラダイムでは、分散学習アルゴリズムの収束は依然として大きな課題である。
本稿では6G技術で実現された遠隔地におけるフェデレーション学習を実現するために,衛星メガコンステレーション衛星フレームワークであるMathrmParaBlockParaBlockについて紹介する。
- 参考スコア(独自算出の注目度): 5.533001852327716
- License:
- Abstract: In the emerging 6G paradigm, where AI-driven services operate over decentralized and resource-constrained infrastructures, the convergence of distributed learning algorithms remains a significant challenge. This paper introduces $\mathrm{ParaBlock}$++, a low Earth orbit (LEO) satellite-assisted hierarchical federated learning (HFL) framework, enabling resource-limited terrestrial clients to collaboratively engage in federated learning (FL) via ground-satellite links (GSLs) supported by LEO satellite megaconstellations. Within this architecture, LEO satellites serve multiple roles: as edge servers aggregating and broadcasting models, as clients accelerating training, and as high-throughput relays managing inter-satellite routing through inter-satellite links (ISLs). Departing from conventional synchronous Jacobian-type updates, $\mathrm{ParaBlock}$++ employs asynchronous BCD-type updates to enhance convergence speed. We provide theoretical convergence guarantees for convex, strongly convex, and non-convex objectives, and formulate optimization problems to determine optimal cluster resource allocation and model partitioning for minimizing global training latency. Experimental evaluations demonstrate that $\mathrm{ParaBlock}$++ achieves faster initial convergence and comparable final performance for deep neural networks (DNNs) such as ResNet-18, offering promising directions for federated learning across geographically remote areas enabled by 6G technologies, but much less global rounds and communication cost.
- Abstract(参考訳): AI駆動サービスが分散化およびリソース制約のあるインフラストラクチャ上で運用される、新たな6Gパラダイムでは、分散学習アルゴリズムの収束が依然として大きな課題である。
本稿では,低地球軌道 (LEO) の衛星支援階層型学習 (HFL) フレームワークである $\mathrm{ParaBlock}$++ を紹介する。
このアーキテクチャでは、エッジサーバがモデルの集約とブロードキャスト、クライアントがトレーニングを加速する、高スループットリレーがサテライト間リンク(ISL)を介してサテライト間ルーティングを管理するなど、複数の役割を担っている。
従来の同期Jacobianタイプの更新とは別に、$\mathrm{ParaBlock}$++では、コンバージェンス速度を高めるために非同期BCDタイプの更新を使用している。
コンベックス, 強凸, 非凸目標に対する理論的収束保証を行い, 最適クラスタリソース割り当てとモデル分割を決定するための最適化問題を定式化して, グローバルトレーニングのレイテンシを最小化する。
実験的評価によると、$\mathrm{ParaBlock}$++は、ResNet-18のようなディープニューラルネットワーク(DNN)において、より高速な初期収束と同等の最終的なパフォーマンスを実現している。
関連論文リスト
- Hierarchical Asynchronous Federated Learning over Space-Air-Ground Integrated Networks [5.533001852327716]
本稿では,低地球軌道(LEO)衛星支援非同期学習(FL)フレームワークであるHAFLを提案する。
この内部では、LEOサーバはエッジとして、トレーニングとして、そして、ISL(Inter-Satellite Links)と同じくらいの高さに集約される。
ベンチマークリレーとデータセットに対してHAFLが高速な初期収束と同等の最終的な性能を実現することを示す。
論文 参考訳(メタデータ) (2026-10-31T15:13:06Z) - FractalNet-Based Heterogeneous Federated Learning for Orbital Edge Intelligence in Satellite Mega-Constellations: A Wildfire Case Study [0.3093890460224435]
大規模センシング、通信、計算ファブリックとして、メガコンステレーションが出現している。
軌道エッジインテリジェンスのためのフラクタルネットアーキテクチャに基づく異種フェデレーション学習手法を提案する。
シミュレーションされたメガコンステレーションの実験は、収束、通信効率、エネルギー適応、スケジュールされた貯蓄、堅牢性、レイテンシーのアプローチを検証する。
論文 参考訳(メタデータ) (2026-09-01T08:07:39Z) - Space Network of Experts: Architecture and Expert Placement [53.89437186709926]
宇宙データセンターは、エネルギー集約型大規模言語モデル(LLM)を実行するための有望なプラットフォームとして構想されている
しかし、重要な課題の1つは、衛星ネットワークにおける大規模LSMの効率的な分散配置である。
本稿では,広く普及しているMix-of-Experts(MoE)モデルの分散実行を目的としたSpace Network of Experts(Space-XNet)フレームワークを提案する。
論文 参考訳(メタデータ) (2026-05-01T08:40:31Z) - Joint AoI and Handover Optimization in Space-Air-Ground Integrated Network [48.485907216785904]
ローアース軌道(LEO)衛星コンステレーションは、地球をカバーし、遅延を減少させる有望な解決策を提供する。
しかし、軌道力学による間欠的カバレッジと間欠的な通信窓に苦しむ。
我々の3層設計では、HAP-地上通信のための高容量衛星間通信と信頼性無線周波数(RF)リンクに、ハイブリッド自由空間光(FSO)リンクを用いる。
論文 参考訳(メタデータ) (2025-09-16T06:16:56Z) - Accelerating Privacy-Preserving Federated Learning in Large-Scale LEO Satellite Systems [57.692181589325116]
大規模な低地球軌道(LEO)衛星システムは、高速かつ広範囲のデータ交換を可能にする能力によって、ますます価値が高まっている。
プライバシー上の懸念と規制上の制約のため、リモートクライアントで収集された生データを集中的に集約することはできない。
フェデレーション学習は、分散デバイス上でローカルモデルをトレーニングし、モデルパラメータのみを交換することで、プライバシ保護の代替手段を提供する。
本稿では,コミュニケーションリソースを動的に割り当て,フェデレート学習を高速化する,離散時間グラフに基づくオンデマンドスケジューリングフレームワークを提案する。
論文 参考訳(メタデータ) (2025-09-05T03:33:42Z) - A Semi-Supervised Federated Learning Framework with Hierarchical Clustering Aggregation for Heterogeneous Satellite Networks [2.5774044809669663]
低軌道(LEO)衛星は6Gネットワークの重要なコンポーネントとして出現している。
階層的な集約を伴うLEO衛星ネットワークに適した,新しい半教師付きフェデレーション学習フレームワークを提案する。
提案手法は,他の比較手法と比較して処理時間(最大3倍)とエネルギー消費(最大4倍)を著しく削減できる。
論文 参考訳(メタデータ) (2025-07-30T02:47:14Z) - HALoS: Hierarchical Asynchronous Local SGD over Slow Networks for Geo-Distributed Large Language Model Training [41.629510958918225]
大規模言語モデル(LLM)の訓練は、地理的に分散したアクセラレータにますます依存し、地域間での通信の禁止と不均一なハードウェアの利用を引き起こす。
HALoSは,各リージョンにローカルサーバ(LPS)を導入し,地域内リンク間の階層的トラグラーをマージするグローバル非同期最適化フレームワークである。
実験的に、HALoSはジオ分散トレーニングのベースラインよりも7.5倍早く収束し、既存の非同期メソッドを最大2.1倍改善する。
論文 参考訳(メタデータ) (2025-06-05T00:48:55Z) - FusionLLM: A Decentralized LLM Training System on Geo-distributed GPUs with Adaptive Compression [55.992528247880685]
分散トレーニングは、システム設計と効率に関する重要な課題に直面します。
大規模深層ニューラルネットワーク(DNN)のトレーニング用に設計・実装された分散トレーニングシステムFusionLLMを提案する。
本システムと手法は,収束性を確保しつつ,ベースライン法と比較して1.45~9.39倍の高速化を実現可能であることを示す。
論文 参考訳(メタデータ) (2024-10-16T16:13:19Z) - Hyperdimensional Computing Empowered Federated Foundation Model over Wireless Networks for Metaverse [56.384390765357004]
本稿では,新しい基礎モデルのための統合型分割学習と超次元計算フレームワークを提案する。
この新しいアプローチは通信コスト、計算負荷、プライバシーリスクを低減し、Metaverseのリソース制約されたエッジデバイスに適している。
論文 参考訳(メタデータ) (2024-08-26T17:03:14Z) - Satellite Federated Edge Learning: Architecture Design and Convergence Analysis [47.057886812985984]
本稿では,FEDMEGAという新しいFEELアルゴリズムを提案する。
軌道内モデルアグリゲーションのための衛星間リンク(ISL)を統合することにより、提案アルゴリズムは低データレートと断続的なGSLの使用を著しく削減する。
提案手法は,環全リデューサに基づく軌道内アグリゲーション機構と,グローバルモデルアグリゲーションのためのネットワークフローベースのトランスミッションスキームを組み合わせたものである。
論文 参考訳(メタデータ) (2024-04-02T11:59:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。