論文の概要: Large Language Models over Networks: Collaborative Intelligence under Resource Constraints
- arxiv url: http://arxiv.org/abs/2605.08626v1
- Date: Sat, 09 May 2026 02:42:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-12 23:28:49.777145
- Title: Large Language Models over Networks: Collaborative Intelligence under Resource Constraints
- Title(参考訳): ネットワーク上の大規模言語モデル:資源制約下での協調的知性
- Abstract要約: 大規模言語モデル(LLMs)は、スマートフォンアシスタントから自律運転まで、アプリケーションを動かす社会を変えつつある。
しかし、クラウドベースのLLMサービスだけでは、成長するアプリケーションのクラスには役に立たない。
本稿では、複数の独立したLLMがタスクレベルで協調するパラダイムである協調インテリジェンスに焦点を当てる。
- 参考スコア(独自算出の注目度): 64.76676115046651
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models (LLMs) are transforming society, powering applications from smartphone assistants to autonomous driving. Yet cloud-based LLM services alone cannot serve a growing class of applications, including those operating under intermittent connectivity, sub-second latency budgets, data-residency constraints, or sustained high-volume inference. On-device deployment is in turn constrained by limited computation and memory. No single endpoint can deliver high-quality service across this spectrum. This article focuses on collaborative intelligence, a paradigm in which multiple independent LLMs distributed across device and cloud endpoints collaborate at the task level through natural language or structured messages. Such collaboration strives for superior response quality under heterogeneous resource constraints spanning computation, memory, communication, and cost across network tiers. We present collaborative inference along two complementary and composable dimensions: vertical device-cloud collaboration and horizontal multi-agent collaboration, which can be combined into hybrid topologies in practice. We then examine learning to collaborate, addressing the training of routing policies and the development of cooperative capabilities among LLMs. Finally, we identify open research challenges including scaling under resource heterogeneity and trustworthy collaborative intelligence.
- Abstract(参考訳): 大規模言語モデル(LLMs)は、スマートフォンアシスタントから自律運転まで、アプリケーションを動かす社会を変えつつある。
しかし、クラウドベースのLLMサービスだけでは、断続的な接続、秒未満のレイテンシ予算、データ-レジデンシ制約、高ボリューム推論の持続など、成長するアプリケーションには対応できない。
オンデバイスデプロイメントは、計算とメモリの制限によって制限される。
このスペクトルにわたって高品質なサービスを提供するエンドポイントはひとつもありません。
この記事では、デバイスとクラウドのエンドポイントにまたがる複数の独立したLCMが、自然言語や構造化メッセージを通じてタスクレベルで協調するパラダイムである、協調的なインテリジェンスに焦点を当てる。
このようなコラボレーションは、計算、メモリ、通信、コストを網羅する不均一なリソース制約の下で、優れた応答品質を目指しています。
我々は、垂直デバイスクラウドコラボレーションと水平マルチエージェントコラボレーションの2つの相補的および構成可能な次元に沿って協調的推論を提示し、実際はハイブリッドトポロジと組み合わせることができる。
次に、協調学習について検討し、ルーティングポリシーの訓練とLLM間の協調能力の発達に対処する。
最後に、資源の不均一性の下でのスケーリングや、信頼できる協調的な知性など、オープンな研究課題を特定します。
関連論文リスト
- Communication-Efficient Digital-Twin Coordination for Heterogeneous LLM Embodied Agents over Computing Power Networks [48.90302419915548]
異種大規模言語モデル(LLM)を駆使したエージェントチームは、スマートファクトリー、倉庫、サービスロボティクスに広く配備されている。
軽量ディジタルツイン(DT)上に構築したネットワーク協調フレームワーク LDT-Coord を提案する。
具体的には、各エージェントは、意図したアクションを独立して選択し、共有リソースに対するアクション決定と構造化時間制約の両方をDTサーバに通知する。
論文 参考訳(メタデータ) (2026-07-10T12:10:31Z) - EmCoop: A Framework and Benchmark for Embodied Cooperation Among LLM Agents [18.802912315746564]
EmCoopは、組み込みマルチエージェントシステムの協調を研究するためのベンチマークフレームワークである。
我々のフレームワークは、高レベルの認知層と低レベルのエンボディドインタラクション層を分離する。
コラボレーションの品質と障害モードを診断する,一般化可能なプロセスレベルのメトリクスを提案する。
論文 参考訳(メタデータ) (2026-02-27T22:28:33Z) - IMAGINE: Intelligent Multi-Agent Godot-based Indoor Networked Exploration [0.0]
本稿では,2次元屋内環境における課題に対処するために,MARL(Multi-Agent Reinforcement Learning)を実装した。
政策訓練は、不確実性の下で創発的な協調行動と意思決定を達成することを目的としている。
論文 参考訳(メタデータ) (2026-02-02T22:08:41Z) - A Structure-Agnostic Co-Tuning Framework for LLMs and SLMs in Cloud-Edge Systems [20.267719677908683]
Co-PLMsは、大規模および小規模言語モデルの協調トレーニングのための新しいフレームワークである。
構造に依存しない相互学習のプロセスを統合し、異種言語モデル間の知識交換を実現する。
その結果、Co-PLMsは最先端の手法より優れており、Roge-Lでは平均5.38%、EMでは4.88%の上昇を達成している。
論文 参考訳(メタデータ) (2025-11-12T01:16:17Z) - A Survey on Collaborative Mechanisms Between Large and Small Language Models [5.1159419867547085]
大規模言語モデル(LLM)は強力なAI機能を提供するが、高いリソースコストとレイテンシのためにデプロイメントの課題に直面している。
小型言語モデル(SLM)は、性能の低下を犠牲にして効率性とデプロイ性を提供する。
論文 参考訳(メタデータ) (2025-05-12T11:48:42Z) - MultiAgentBench: Evaluating the Collaboration and Competition of LLM agents [59.825725526176655]
大規模言語モデル(LLM)は、自律的なエージェントとして顕著な能力を示している。
既存のベンチマークでは、単一エージェントタスクにフォーカスするか、狭いドメインに限定されており、マルチエージェントのコーディネーションと競合のダイナミクスを捉えていない。
多様な対話シナリオにまたがってLLMベースのマルチエージェントシステムを評価するためのベンチマークであるMultiAgentBenchを紹介する。
論文 参考訳(メタデータ) (2025-03-03T05:18:50Z) - A Comprehensive Survey on Joint Resource Allocation Strategies in Federated Edge Learning [9.806901443019008]
Federated Edge Learning (FEL)は、分散環境でのモデルトレーニングを可能にすると同時に、ユーザデータの物理的分離を利用することで、ユーザのプライバシを確保する。
IoT(Internet of Things)やSmart Earthといった複雑なアプリケーションシナリオの開発により、従来のリソース割り当てスキームは、これらの増大する計算および通信要求を効果的にサポートすることができなくなった。
本稿では,複数の資源需要が増大する中で,計算と通信の多面的課題を体系的に解決する。
論文 参考訳(メタデータ) (2024-10-10T13:02:00Z) - Cooperate or Collapse: Emergence of Sustainable Cooperation in a Society of LLM Agents [101.17919953243107]
GovSimは、大規模言語モデル(LLM)における戦略的相互作用と協調的意思決定を研究するために設計された生成シミュレーションプラットフォームである。
最強のLSMエージェントを除く全てのエージェントは、GovSimの持続的均衡を達成することができず、生存率は54%以下である。
道徳的思考の理論である「大学化」に基づく推論を活用するエージェントは、持続可能性を大幅に向上できることを示す。
論文 参考訳(メタデータ) (2024-04-25T15:59:16Z) - Decentralized and Lifelong-Adaptive Multi-Agent Collaborative Learning [57.652899266553035]
分散型および生涯適応型多エージェント協調学習は、中央サーバを使わずに複数のエージェント間のコラボレーションを強化することを目的としている。
動的協調グラフを用いた分散マルチエージェント生涯協調学習アルゴリズムであるDeLAMAを提案する。
論文 参考訳(メタデータ) (2024-03-11T09:21:11Z) - When Large Language Model Agents Meet 6G Networks: Perception,
Grounding, and Alignment [100.58938424441027]
モバイル端末とエッジサーバの協調を利用した6GネットワークにおけるAIエージェントの分割学習システムを提案する。
提案システムでは,LLMのための新しいモデルキャッシングアルゴリズムを導入し,コンテキストにおけるモデル利用を改善する。
論文 参考訳(メタデータ) (2024-01-15T15:20:59Z) - Energy-Efficient Multi-Orchestrator Mobile Edge Learning [54.28419430315478]
Mobile Edge Learning(MEL)は、エッジデバイス上で機械学習(ML)モデルの分散トレーニングを特徴とする、協調学習パラダイムである。
MELでは、異なるデータセットで複数の学習タスクが共存する可能性がある。
本稿では, エネルギー消費, 精度, 解複雑性のトレードオフを容易にする軽量なアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-09-02T07:37:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。