論文の概要: Smart Adaptive Computing Across the Continuum: LLMs in IoT-Edge-Cloud Resource Management
- arxiv url: http://arxiv.org/abs/2609.09348v1
- Date: Tue, 08 Sep 2026 18:37:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-10 19:44:08.785691
- Title: Smart Adaptive Computing Across the Continuum: LLMs in IoT-Edge-Cloud Resource Management
- Title(参考訳): IoT-Edge-Cloudリソース管理におけるLLM
- Abstract要約: 大規模言語モデル(LLM)は、深層強化学習パイプラインの強化にますます利用されている。
我々はDRL技術を用いてWangらによる連続的オーケストレーションシステムの分類を構築、さらに2次元で拡張する。
我々は、この分類法を最近の6つのシステムアーキテクチャに適用し、Cloud Continuum設定で完全なLLMオーケストレーションと完全なエージェント層フィードバックを組み合わせていないため、共通のギャップを見つけます。
- 参考スコア(独自算出の注目度): 4.954397947270926
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Managing resources across IoT, edge, and cloud layers calls for continuous, context-aware decisions under constraints that rarely stay fixed. Deep reinforcement learning (DRL) handles this class of problems well, and large language models (LLMs) are increasingly used to augment DRL pipelines, yet the architectural relationship between the two is seldom made explicit. We build on Wang et al.'s taxonomy of Continuum Orchestration Systems employing DRL techniques and extend it with two further dimensions. The AI Augmentation Paradigm measures how LLMs are exploited, while the Feedback channel captures whether and through which system path the execution feedback returns to the LLM in order to close the MAPE control loop at the LLM Orchestration layer. We apply this taxonomy to six recent system architectures and find a common gap, as none combines full LLM orchestration with full agent-layer feedback in a Cloud Continuum setting. We relate this gap to a missing cross-tier feedback abstraction, bridging the incommensurable per-tier signals and the LLM Orchestrator.
- Abstract(参考訳): IoT、エッジ、クラウド層にまたがるリソースの管理は、固定されることのほとんどない制約の下で、継続的かつコンテキスト対応の意思決定を要求する。
深層強化学習(DRL)は、このような問題をうまく処理し、大規模言語モデル(LLM)は、DRLパイプラインの強化にますます利用されているが、両者のアーキテクチャ的関係は、ほとんど明確ではない。
我々はDRL技術を用いてWangらによる連続的オーケストレーションシステムの分類を構築、さらに2次元で拡張する。
AI拡張パラダイム(AI Augmentation Paradigm)は、LLMの悪用方法を測定する一方で、フィードバックチャネルは、LLMオーケストレーション層のMAPE制御ループを閉じるために、どのシステムパスを介して実行フィードバックがLLMに戻るかをキャプチャする。
我々は、この分類法を最近の6つのシステムアーキテクチャに適用し、Cloud Continuum設定で完全なLLMオーケストレーションと完全なエージェント層フィードバックを組み合わせていないため、共通のギャップを見つけます。
我々は、このギャップを層間フィードバックの抽象化の欠如に関連付け、層間信号とLLMオーケストレータをブリッジする。
関連論文リスト
- Diffusion Language Models for Mobile Edge Agentic AI: Foundations, Applications, and Challenges [58.887152635127165]
拡散言語モデル(DLM)は、モバイルエッジエージェント人工知能(AI)の非自己回帰的な代替手段を提供する
DLMは複数の不確実なトークンを並列に更新し、生成プロセスを通して双方向のコンテキストを利用することができる。
この調査は、DLMの基礎をレビューし、レイテンシ、メモリ、エネルギ、帯域幅、プライバシ、信頼性制約の下でのエッジ設定に対する適合性を分析します。
論文 参考訳(メタデータ) (2026-09-04T06:16:49Z) - Modular Representation Compression: Adapting LLMs for Efficient and Effective Recommendations [53.53864188270018]
大規模言語モデル(LLM)には高度なレコメンデーションシステム(RS)がある。
LLMのモジュラリティを明示的に制御するための MARC を提案する。
MARCは大規模な商用検索広告シナリオにおけるオンラインA/Bテストで2.82%のeCPMリフトを達成した。
論文 参考訳(メタデータ) (2026-04-20T12:08:58Z) - Orla: A Library for Serving LLM-Based Multi-Agent Systems [13.749935259370737]
LLMベースのエージェントシステムの構築と実行のためのライブラリであるOrlaを紹介する。
Orlaは、ワークフローレベルのポリシーから要求実行を分離する一般的な抽象化を提供する。
我々はOrlaを2つのデータセットで評価し、ステージマッピングが単一モデルvLLMベースラインと比較してレイテンシとコストを改善することを示した。
論文 参考訳(メタデータ) (2026-03-13T21:25:29Z) - Memory-Based Advantage Shaping for LLM-Guided Reinforcement Learning [18.215893951726166]
スパースや遅延した報酬のある環境では、強化学習は高いサンプル複雑さを引き起こす。
この制限は、大規模言語モデル(LLM)をサブゴール発見や軌道誘導に使う動機となった。
LLMガイダンスとエージェント自身のロールアウトの成功の両方から,サブゴールとトラジェクトリを符号化したメモリグラフを構築することで,これらの課題に対処する。
論文 参考訳(メタデータ) (2026-02-20T01:44:35Z) - MIRA: Memory-Integrated Reinforcement Learning Agent with Limited LLM Guidance [18.215893951726166]
大規模言語モデル(LLM)は、早期学習を容易にするサブゴール分解、可塑性軌跡、抽象的な事前情報を提供することができる。
本稿では,MIRA (Memory-Integrated Reinforcement Learning Agent) を提案する。
論文 参考訳(メタデータ) (2026-02-20T01:43:30Z) - Grounded in Reality: Learning and Deploying Proactive LLM from Offline Logs [72.08224879435762]
textttLearn-to-Askは、プロアクティブな対話エージェントの学習とデプロイのためのシミュレータフリーフレームワークである。
当社のアプローチは,LLMの大規模オンラインAIサービスへの展開を成功に導くものです。
論文 参考訳(メタデータ) (2025-10-29T12:08:07Z) - StreamRL: Scalable, Heterogeneous, and Elastic RL for LLMs with Disaggregated Stream Generation [55.75008325187133]
強化学習(RL)は,大規模言語モデル(LLM)の学習後のコアとなる。
StreamRLは、最初の原則から分離して、2種類のパフォーマンスボトルネックに対処するように設計されている。
実験により、StreamRLは既存の最先端システムと比較してスループットを最大2.66倍改善することが示された。
論文 参考訳(メタデータ) (2025-04-22T14:19:06Z) - An Autonomous Network Orchestration Framework Integrating Large Language Models with Continual Reinforcement Learning [13.3347292702828]
本稿では,SemCom対応SAGINのためのARC(Autonomous Reinforcement Coordination)というフレームワークを提案する。
ARCはオーケストレーションを2層に分割し、LLMを高レベルの計画に、RLエージェントを低レベルの意思決定に利用している。
論文 参考訳(メタデータ) (2025-02-22T11:53:34Z) - Beyond Numeric Rewards: In-Context Dueling Bandits with LLM Agents [25.825941077332182]
In-Context Reinforcement Learning(ICRL)は、基盤モデル時代の強化学習(RL)問題を解決するフロンティアパラダイムである。
本稿では,Large Language Models (LLMs) が,Dueling Bandits (DB) 問題の下で ICRL を実現するためにクロスドメインを一般化できるかどうかを検討する。
LEADは従来のDBアルゴリズムから受け継がれた理論的保証を持つことを示す。
論文 参考訳(メタデータ) (2024-07-02T02:18:14Z) - From Words to Actions: Unveiling the Theoretical Underpinnings of LLM-Driven Autonomous Systems [59.40480894948944]
大規模言語モデル (LLM) は、物理世界の意思決定問題を解くことができる。
このモデルの下で、LLM Plannerは、プロンプトを介して言語ベースのサブゴールを反復的に生成することにより、部分的に観測可能なマルコフ決定プロセス(POMDP)をナビゲートする。
我々は,事前学習したLLMプランナーが,文脈内学習を通じてベイズ的集計模倣学習(BAIL)を効果的に行うことを証明した。
論文 参考訳(メタデータ) (2024-05-30T09:42:54Z) - InfLLM: Training-Free Long-Context Extrapolation for LLMs with an Efficient Context Memory [93.20588235940453]
本稿では,トレーニング不要なメモリベースのInfLLMを提案する。
InfLLMは、リモートコンテキストを追加のメモリユニットに格納し、トークン関連ユニットを注目するために効率的なメカニズムを使用する。
シーケンス長が$1,024$Kにスケールしても、InfLLMは依然として、長距離依存関係を効果的にキャプチャする。
論文 参考訳(メタデータ) (2024-02-07T06:50:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。