論文の概要: Hierarchical Federated Foundation Models over Wireless Networks for Multi-Modal Multi-Task Intelligence: Integration of Edge Learning with D2D/P2P-Enabled Fog Learning Architectures

• arxiv url: http://arxiv.org/abs/2509.03695v1
• Date: Wed, 03 Sep 2025 20:23:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-05 20:21:09.964112
• Title: Hierarchical Federated Foundation Models over Wireless Networks for Multi-Modal Multi-Task Intelligence: Integration of Edge Learning with D2D/P2P-Enabled Fog Learning Architectures
• Title（参考訳）: マルチモーダルマルチタスクインテリジェンスのための無線ネットワーク上の階層的フェデレーションモデル:エッジラーニングとD2D/P2P-Enabled Fog Learning Architectureの統合
• Authors: Payam Abdisarabshali, Fardis Nadimi, Kasra Borazjani, Naji Khosravan, Minghui Liwang, Wei Ni, Dusit Niyato, Michael Langberg, Seyyedali Hosseinalipour,
• Abstract要約: 本稿では,階層型フェデレーション基礎モデル(HF-FM)を提案することで,M3T FFMの探索されていないバリエーションを明らかにする。 HF-FMはM3T FMのモジュール構造を戦略的に整列させ、モダリティエンコーダ、プロンプト、ME(Mixy-of-Experts)、アダプタ、タスクヘッドから構成される。 その可能性を実証するため,無線ネットワーク環境におけるHF-FMの試作と,HF-FMの開発のためのオープンソースコードのリリースを行った。
• 参考スコア（独自算出の注目度）: 58.72593025539547
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The rise of foundation models (FMs) has reshaped the landscape of machine learning. As these models continued to grow, leveraging geo-distributed data from wireless devices has become increasingly critical, giving rise to federated foundation models (FFMs). More recently, FMs have evolved into multi-modal multi-task (M3T) FMs (e.g., GPT-4) capable of processing diverse modalities across multiple tasks, which motivates a new underexplored paradigm: M3T FFMs. In this paper, we unveil an unexplored variation of M3T FFMs by proposing hierarchical federated foundation models (HF-FMs), which in turn expose two overlooked heterogeneity dimensions to fog/edge networks that have a direct impact on these emerging models: (i) heterogeneity in collected modalities and (ii) heterogeneity in executed tasks across fog/edge nodes. HF-FMs strategically align the modular structure of M3T FMs, comprising modality encoders, prompts, mixture-of-experts (MoEs), adapters, and task heads, with the hierarchical nature of fog/edge infrastructures. Moreover, HF-FMs enable the optional usage of device-to-device (D2D) communications, enabling horizontal module relaying and localized cooperative training among nodes when feasible. Through delving into the architectural design of HF-FMs, we highlight their unique capabilities along with a series of tailored future research directions. Finally, to demonstrate their potential, we prototype HF-FMs in a wireless network setting and release the open-source code for the development of HF-FMs with the goal of fostering exploration in this untapped field (GitHub: https://github.com/payamsiabd/M3T-FFM).
• Abstract（参考訳）: 基礎モデル(FM)の台頭は、機械学習のランドスケープを形変えた。 これらのモデルが成長を続けるにつれて、無線機器からの地理的に分散したデータを活用することがますます重要になり、フェデレーション基礎モデル(FFM)が生まれている。 近年、FMはマルチモーダルマルチタスク (M3T) FM (eg , GPT-4) に進化し、複数のタスクにまたがる様々なモダリティを処理できるようになった。 本稿では、階層的フェデレーション基礎モデル(HF-FM)を提案することで、M3T FFMの探索されていないバリエーションを明らかにし、このモデルに直接的な影響を与える霧/エッジネットワークに対して、見過ごされた2つの異質性次元を露呈する。 一 収集されたモダリティの不均一性及び (ii)フォグ/エッジノード間で実行されるタスクの不均一性。 HF-FMは、モダリティエンコーダ、プロンプト、ME(Mix-of-Experts)、アダプタ、タスクヘッドからなるM3T FMのモジュール構造を、フォグ/エッジインフラストラクチャの階層的な性質と戦略的に整合させる。 さらに、HF-FMはデバイス間通信(D2D)のオプション使用を可能にし、水平モジュール中継とノード間の局所的協調訓練を可能にする。 HF-FMのアーキテクチャ設計を掘り下げることで、今後の一連の研究方向性とともに、そのユニークな機能を強調します。 最後に、その可能性を実証するために、無線ネットワーク環境におけるHF-FMのプロトタイプを作成し、未解決分野(GitHub: https://github.com/payamsiabd/M3T-FFM)での探索を促進することを目的として、HF-FMの開発のためのオープンソースコードをリリースする。

関連論文リスト

• FedPFT: Federated Proxy Fine-Tuning of Foundation Models [55.58899993272904]
  フェデレートラーニング(FL)を通じて下流タスクにファンデーションモデル(FM)を適用することは、データプライバシと価値のあるFMを保護するための有望な戦略として現れます。 FLのクライアントにサブFMを割り当てることによる既存のFMの微調整手法は、チューニングが不十分で勾配の必然的エラー蓄積が避けられないため、最適以下の性能をもたらす。 本稿では,FedPFT(Federated Proxy Fine-Tuning)を提案する。
  論文  参考訳（メタデータ） (2024-04-17T16:30:06Z)
• EdgeFM: Leveraging Foundation Model for Open-set Learning on the Edge [15.559604113977294]
  We propose EdgeFM, a novel edge-cloud collaborative system with open-set recognition capabilities。 EdgeFMは、エンドツーエンドのレイテンシを3.2倍に削減し、ベースラインと比較して34.3%の精度向上を実現している。
  論文  参考訳（メタデータ） (2023-11-18T06:40:39Z)
• The Role of Federated Learning in a Wireless World with Foundation Models [59.8129893837421]
  ファンデーションモデル(FM)は汎用人工知能(AI)モデルである。 現在、FMと連邦学習(FL)の相互作用の探索はまだ初期段階にある。 本稿では、FMが無線ネットワークよりもFLに適した範囲について検討し、その研究課題と機会について概観する。
  論文  参考訳（メタデータ） (2023-10-06T04:13:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。