論文の概要: NetGPT: A Native-AI Network Architecture Beyond Provisioning
Personalized Generative Services
- arxiv url: http://arxiv.org/abs/2307.06148v4
- Date: Sat, 9 Mar 2024 04:24:21 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-13 16:46:52.813508
- Title: NetGPT: A Native-AI Network Architecture Beyond Provisioning
Personalized Generative Services
- Title(参考訳): NetGPT: パーソナライズされた生成サービスの提供を超えて、ネイティブAIネットワークアーキテクチャ
- Authors: Yuxuan Chen, Rongpeng Li, Zhifeng Zhao, Chenghui Peng, Jianjun Wu,
Ekram Hossain, and Honggang Zhang
- Abstract要約: 大規模言語モデル(LLM)は、生成情報によって私たちの日常生活を力づけるために大きな成功を収めています。
本稿では,NetGPTを用いて,その計算能力に基づいて,エッジおよびクラウドにおける適切なLLMの相乗化を実現した。
- 参考スコア(独自算出の注目度): 25.468894023135828
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language models (LLMs) have triggered tremendous success to empower our
daily life by generative information. The personalization of LLMs could further
contribute to their applications due to better alignment with human intents.
Towards personalized generative services, a collaborative cloud-edge
methodology is promising, as it facilitates the effective orchestration of
heterogeneous distributed communication and computing resources. In this
article, we put forward NetGPT to capably synergize appropriate LLMs at the
edge and the cloud based on their computing capacity. In addition, edge LLMs
could efficiently leverage location-based information for personalized prompt
completion, thus benefiting the interaction with the cloud LLM. In particular,
we present the feasibility of NetGPT by leveraging low-rank adaptation-based
fine-tuning of open-source LLMs (i.e., GPT-2-base model and LLaMA model), and
conduct comprehensive numerical comparisons with alternative cloud-edge
collaboration or cloud-only techniques, so as to demonstrate the superiority of
NetGPT. Subsequently, we highlight the essential changes required for an
artificial intelligence (AI)-native network architecture towards NetGPT, with
emphasis on deeper integration of communications and computing resources and
careful calibration of logical AI workflow. Furthermore, we demonstrate several
benefits of NetGPT, which come as by-products, as the edge LLMs' capability to
predict trends and infer intents promises a unified solution for intelligent
network management & orchestration. We argue that NetGPT is a promising
AI-native network architecture for provisioning beyond personalized generative
services.
- Abstract(参考訳): 大規模言語モデル(LLM)は、生成情報によって私たちの日常生活を強力にするために大きな成功を収めています。
LLMのパーソナライズは、人間の意図との整合性の向上により、その応用にさらに貢献する可能性がある。
パーソナライズされた生成サービスに向けて、異種分散通信とコンピューティングリソースの効率的なオーケストレーションを促進するため、協調的なクラウドエッジ方法論が有望である。
本稿では,NetGPTを用いて,その計算能力に基づいて,エッジおよびクラウドにおける適切なLLMの相乗化を図る。
さらに、エッジllmは、パーソナライズされたプロンプト完了のためにロケーションベースの情報を効率的に活用することができ、クラウドllmとのインタラクションの恩恵を受ける。
特に,オープンソースLLMの低ランク適応に基づく微調整(GPT-2ベースモデルとLLaMAモデル)を活用することにより,NetGPTの実現可能性を示し,NetGPTの優位性を示すために,代替クラウドエッジコラボレーションやクラウド専用技術と包括的な数値比較を行う。
その後、我々は、通信とコンピューティングリソースのより深い統合と論理的AIワークフローの慎重な校正に焦点を当て、人工知能(AI)ネイティブネットワークアーキテクチャがNetGPTに必要となる重要な変更を強調した。
さらに、トレンドを予測し、意図を推測するエッジLLMの能力によって、インテリジェントなネットワーク管理とオーケストレーションのための統一されたソリューションが約束されるため、副産物として提供されるNetGPTのいくつかの利点を示す。
我々は、netgptはパーソナライズされた生成サービスを超えたプロビジョニングのための有望なaiネイティブネットワークアーキテクチャであると主張する。
関連論文リスト
- NetLLM: Adapting Large Language Models for Networking [36.61572542761661]
我々は,ネットワーク問題を解決するために,大規模言語モデルを効率的に適応する最初のフレームワークであるNetLLMを提案する。
ネットワークへのLLM適応におけるNetLLMの有効性を実証し、適応されたLLMが最先端のアルゴリズムよりも優れていることを示す。
論文 参考訳(メタデータ) (2024-02-04T04:21:34Z) - When Large Language Model Agents Meet 6G Networks: Perception,
Grounding, and Alignment [100.58938424441027]
モバイル端末とエッジサーバの協調を利用した6GネットワークにおけるAIエージェントの分割学習システムを提案する。
提案システムでは,LLMのための新しいモデルキャッシングアルゴリズムを導入し,コンテキストにおけるモデル利用を改善する。
論文 参考訳(メタデータ) (2024-01-15T15:20:59Z) - Green Edge AI: A Contemporary Survey [49.47249665895926]
グリーンエッジAIに関する現代の調査を紹介する。
その可能性にもかかわらず、エッジAIは重大な課題に直面している。主な原因は、無線エッジネットワークのリソース制限と、ディープラーニング(DL)のリソース集約性との間の二分である。
我々は、エッジAIシステムにおける3つの重要なタスクに対して、トレーニングデータ取得、エッジトレーニング、エッジ推論を含むエネルギー効率の高い設計手法について検討する。
論文 参考訳(メタデータ) (2023-12-01T04:04:37Z) - Leveraging Large Language Models for DRL-Based Anti-Jamming Strategies
in Zero Touch Networks [13.86376549140248]
Zero Touch Networks (ZTN) は、人間の介入を最小限に抑え、完全自動化された自己最適化ネットワークの実現を目指している。
ZTNの利点は効率性とスケーラビリティにあるが、透明性、適応性、および人間の信頼に関わる課題は依然として一般的である。
本稿では,Large Language Models(LLM)をZTNに統合し,ネットワーク透過性を高め,ユーザインタラクションを改善する可能性を明らかにする。
論文 参考訳(メタデータ) (2023-08-18T08:13:23Z) - Federated Learning-Empowered AI-Generated Content in Wireless Networks [58.48381827268331]
フェデレートドラーニング(FL)は、学習効率を改善し、AIGCのプライバシー保護を達成するために利用することができる。
我々は,AIGCの強化を目的としたFLベースの技術を提案し,ユーザが多様でパーソナライズされた高品質なコンテンツを作成できるようにすることを目的とする。
論文 参考訳(メタデータ) (2023-07-14T04:13:11Z) - Large Language Models Empowered Autonomous Edge AI for Connected
Intelligence [51.269276328087855]
エッジ人工知能(Edge AI)は、コネクテッドインテリジェンスを実現するための有望なソリューションである。
この記事では、ユーザのさまざまな要件を満たすために自動的に組織化し、適応し、最適化する、自律的なエッジAIシステムのビジョンを示す。
論文 参考訳(メタデータ) (2023-07-06T05:16:55Z) - Deep Reinforcement Learning Based Resource Allocation for Cloud Native
Wireless Network [20.377823731801456]
クラウドネイティブ技術は、5G以上の通信ネットワークと6G通信ネットワークに革命をもたらし、前例のないレベルの運用自動化、柔軟性、適応性を提供します。
クラウドネイティブなサービスとアプリケーションの広大な範囲は、動的クラウドコンピューティング環境のリソース割り当てにおいて、新たな課題をもたらしている。
深層強化学習手法を導入し,ネットワーク状態をモニタリングし,動的にアロケーションポリシーを訓練できる2つのモデルフリーアルゴリズムを導入する。
本研究は,ネットワーク効率の大幅な向上を実証し,クラウドネイティブ無線ネットワークの潜在能力を最大限に活用するための提案手法の可能性を明らかにした。
論文 参考訳(メタデータ) (2023-05-10T15:32:22Z) - Enabling AI-Generated Content (AIGC) Services in Wireless Edge Networks [68.00382171900975]
無線エッジネットワークでは、不正に生成されたコンテンツの送信はネットワークリソースを不要に消費する可能性がある。
我々は、AIGC-as-a-serviceの概念を示し、エッジネットワークにAをデプロイする際の課題について議論する。
最適なASP選択のための深層強化学習可能なアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-01-09T09:30:23Z) - Energy-Aware Edge Association for Cluster-based Personalized Federated
Learning [2.3262774900834606]
無線ネットワーク上のフェデレートラーニングは、プライバシ保存モデルトレーニングのために、ネットワークエッジにおけるユビキタスインテリジェンスを活用することによって、データ意識のサービスを可能にする。
我々は、類似した好みのユーザデバイスをグループ化するクラスタ化フェデレーション学習を提案し、各クラスタにパーソナライズされたモデルを提供する。
モデル精度、通信資源割り当て、エネルギー消費を共同で考慮し、精度-コストトレードオフ最適化問題を定式化する。
論文 参考訳(メタデータ) (2022-02-06T07:58:41Z) - Incentive Mechanism Design for Resource Sharing in Collaborative Edge
Learning [106.51930957941433]
5GとBeyondネットワークでは、人工知能のアプリケーションがますます普及すると予想されている。
これは、現在のクラウド中心のモデルトレーニングアプローチから、エッジラーニングとして知られるエッジコンピューティングベースの協調学習スキームへのパラダイムシフトを必要とする。
論文 参考訳(メタデータ) (2020-05-31T12:45:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。