論文の概要: Federated Intelligence: When Large AI Models Meet Federated Fine-Tuning and Collaborative Reasoning at the Network Edge

• arxiv url: http://arxiv.org/abs/2503.21412v1
• Date: Thu, 27 Mar 2025 11:56:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-28 12:53:07.165273
• Title: Federated Intelligence: When Large AI Models Meet Federated Fine-Tuning and Collaborative Reasoning at the Network Edge
• Title（参考訳）: フェデレーション・インテリジェンス:大きめのAIモデルがフェデレーション・チューニングとコラボレーティブ・推論をネットワークエッジで会う
• Authors: Wanli Ni, Haofeng Sun, Huiqing Ao, Hui Tian,
• Abstract要約: 大規模人工知能(AI)モデルは、様々なアプリケーションシナリオにおいて顕著な能力を示す。 ネットワークエッジにデプロイすることは、データプライバシや計算リソース、レイテンシといった問題によって、重大な問題を引き起こす。 本稿では,資源制約のある無線ネットワークにおける大規模AIモデルの実装を容易にするための,ファインチューニングと協調推論技術について検討する。
• 参考スコア（独自算出の注目度）: 10.848407787567519
• License:
• Abstract: Large artificial intelligence (AI) models exhibit remarkable capabilities in various application scenarios, but deploying them at the network edge poses significant challenges due to issues such as data privacy, computational resources, and latency. In this paper, we explore federated fine-tuning and collaborative reasoning techniques to facilitate the implementation of large AI models in resource-constrained wireless networks. Firstly, promising applications of large AI models within specific domains are discussed. Subsequently, federated fine-tuning methods are proposed to adapt large AI models to specific tasks or environments at the network edge, effectively addressing the challenges associated with communication overhead and enhancing communication efficiency. These methodologies follow clustered, hierarchical, and asynchronous paradigms to effectively tackle privacy issues and eliminate data silos. Furthermore, to enhance operational efficiency and reduce latency, efficient frameworks for model collaborative reasoning are developed, which include decentralized horizontal collaboration, cloud-edge-end vertical collaboration, and multi-access collaboration. Next, simulation results demonstrate the effectiveness of our proposed methods in reducing the fine-tuning loss of large AI models across various downstream tasks. Finally, several open challenges and research opportunities are outlined.
• Abstract（参考訳）: 大規模な人工知能(AI)モデルは、さまざまなアプリケーションシナリオにおいて顕著な機能を示すが、データプライバシや計算リソース、レイテンシといった問題によって、ネットワークエッジにそれらをデプロイすることは、大きな課題となる。 本稿では,資源制約のある無線ネットワークにおける大規模AIモデルの実装を容易にするための,ファインチューニングと協調推論技術について検討する。 まず、特定のドメインにおける大規模AIモデルの有望な応用について論じる。 その後、ネットワークエッジの特定のタスクや環境に大規模なAIモデルを適用するために、フェデレートされた微調整手法が提案され、通信オーバヘッドに関連する課題に効果的に対処し、通信効率を向上する。 これらの方法論はクラスタ化され、階層化され、非同期なパラダイムに従って、プライバシー問題に効果的に対処し、データサイロを排除します。 さらに、運用効率の向上とレイテンシ低減のために、分散水平コラボレーション、クラウド-エッジ-エンド垂直コラボレーション、マルチアクセスコラボレーションを含む、モデル協調推論のための効率的なフレームワークが開発されている。 次に,提案手法の有効性をシミュレーションにより示し,様々な下流タスクにおける大規模AIモデルの微調整損失を低減する。 最後に、いくつかのオープンな課題と研究の機会について概説する。

関連論文リスト

• AI Flow at the Network Edge [58.31090055138711]
  AI Flowは、デバイス、エッジノード、クラウドサーバ間で利用可能な異種リソースを共同で活用することで、推論プロセスを合理化するフレームワークである。 この記事では、AI Flowのモチベーション、課題、原則を特定するためのポジションペーパーとして機能する。
  論文  参考訳（メタデータ） (2024-11-19T12:51:17Z)
• Model Agnostic Hybrid Sharding For Heterogeneous Distributed Inference [11.39873199479642]
  Nesaは、分散AI推論用に設計されたモデルに依存しないシャーディングフレームワークを導入した。 私たちのフレームワークでは、ブロックチェーンベースのディープニューラルネットワークシャーディングを使用して、さまざまなノードネットワークに計算タスクを分散しています。 われわれの結果は、最先端のAI技術へのアクセスを民主化する可能性を強調している。
  論文  参考訳（メタデータ） (2024-07-29T08:18:48Z)
• Generative AI Agents with Large Language Model for Satellite Networks via a Mixture of Experts Transmission [74.10928850232717]
  本稿では、モデル定式化のための生成人工知能(AI)エージェントを開発し、送信戦略の設計に専門家(MoE)の混合を適用した。 具体的には,大規模言語モデル(LLM)を活用して対話型モデリングパラダイムを構築する。 定式化問題の解法として, MoE-proximal Policy Optimization (PPO) アプローチを提案する。
  論文  参考訳（メタデータ） (2024-04-14T03:44:54Z)
• Multi-Agent Reinforcement Learning for Power Control in Wireless Networks via Adaptive Graphs [1.1861167902268832]
  多エージェント深部強化学習(MADRL)は、電力制御のような幅広い複雑な最適化問題に対処するための有望な手法として登場した。 本稿では,これらの課題を緩和する有効な手段として,分散エージェント間の通信誘導構造としてグラフを用いることを提案する。
  論文  参考訳（メタデータ） (2023-11-27T14:25:40Z)
• Multi Agent DeepRL based Joint Power and Subchannel Allocation in IAB networks [0.0]
  統合アクセスとバックハウリング(IRL)は、将来の世代におけるより高いデータレートに対する前例のない要求を満たすための、実行可能なアプローチである。 本稿では,分数ノードに付随する巨大なアクション空間の問題を,Deep Q-Learning Networkを用いて処理する方法を示す。
  論文  参考訳（メタデータ） (2023-08-31T21:30:25Z)
• Federated Learning-Empowered AI-Generated Content in Wireless Networks [58.48381827268331]
  フェデレートドラーニング(FL)は、学習効率を改善し、AIGCのプライバシー保護を達成するために利用することができる。 我々は,AIGCの強化を目的としたFLベースの技術を提案し,ユーザが多様でパーソナライズされた高品質なコンテンツを作成できるようにすることを目的とする。
  論文  参考訳（メタデータ） (2023-07-14T04:13:11Z)
• Towards a Better Theoretical Understanding of Independent Subnetwork Training [56.24689348875711]
  独立サブネットワークトレーニング(IST)の理論的考察 ISTは、上記の問題を解決するための、最近提案され、非常に効果的である。 圧縮通信を用いた分散手法など,ISTと代替手法の基本的な違いを同定する。
  論文  参考訳（メタデータ） (2023-06-28T18:14:22Z)
• ToupleGDD: A Fine-Designed Solution of Influence Maximization by Deep Reinforcement Learning [4.266866385061998]
  本稿では、影響最大化(IM)問題に対処するため、新しいエンドツーエンドDRLフレームワークToupleGDDを提案する。 我々のモデルは、小さな予算でランダムに生成されたいくつかの小さなグラフで訓練され、様々な大きな予算の下で全く異なるネットワークでテストされる。
  論文  参考訳（メタデータ） (2022-10-14T03:56:53Z)
• Semantic-Aware Collaborative Deep Reinforcement Learning Over Wireless Cellular Networks [82.02891936174221]
  複数のエージェントが無線ネットワーク上で協調できるコラボレーティブディープ強化学習(CDRL)アルゴリズムは有望なアプローチである。 本稿では,リソース制約のある無線セルネットワーク上で,意味的にリンクされたDRLタスクを持つ未学習エージェントのグループを効率的に協調させる,新しい意味認識型CDRL手法を提案する。
  論文  参考訳（メタデータ） (2021-11-23T18:24:47Z)
• Deep Learning for Ultra-Reliable and Low-Latency Communications in 6G Networks [84.2155885234293]
  まず,データ駆動型教師付き深層学習と深部強化学習をURLLCに適用する方法を概説する。 このようなオープンな問題に対処するために、デバイスインテリジェンス、エッジインテリジェンス、およびURLLCのためのクラウドインテリジェンスを可能にするマルチレベルアーキテクチャを開発した。
  論文  参考訳（メタデータ） (2020-02-22T14:38:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。