論文の概要: Learning-Based Collaborative MEC for LLM Inference with Soft-Deadline Awareness via Transformer-Enhanced PPO

• arxiv url: http://arxiv.org/abs/2608.02031v1
• Date: Mon, 03 Aug 2026 10:27:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-04 15:07:25.48673
• Title: Learning-Based Collaborative MEC for LLM Inference with Soft-Deadline Awareness via Transformer-Enhanced PPO
• Title（参考訳）: 変圧器強化PPOを用いたソフトデッドライン認識を用いたLLM推論のための学習型協調MEC
• Abstract要約: 本稿では,大規模言語モデル(LLM)推論のための協調移動エッジコンピューティング(MEC)サーバについて,ソフトデッドライン制約下で検討する。 タスクやサブタスク間の依存関係のため、遅れた期限は、リクエスト全体に対して破滅的な結果をもたらす可能性がある。 本稿では,MECサーバ間の効率的な協調を実現するための,トランスフォーマーに強化されたポリシー最適化フレームワークを開発する。
• 参考スコア（独自算出の注目度）: 1.9346186297861747
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This paper investigates collaborative mobile edge computing (MEC) servers for large language model (LLM) inference under soft deadline constraints. In this system, to improve the quality of service, computations are expected to be completed within their deadlines. However, due to dependencies among tasks or subtasks, any missed deadline can lead to catastrophic consequences for the entire request. In this context, this work proposes an extended deadline mechanism with constrained flexibility. The main challenges lie in handling large-scale computations under strict latency constraints while limiting the number of allowable deadline extensions, especially in the presence of task dependencies within each request. To tackle these challenges, we develop a transformer-enhanced proximal policy optimization (PPO) framework that enables efficient collaboration among MEC servers. The proposed approach aims to maximize the number of tasks completed within their deadlines while minimizing the use of deadline extensions. By capturing temporal dependencies and cross-server interactions, the transformer improves decision-making for task migration. Simulation results demonstrate that the proposed method significantly outperforms conventional PPO and heuristic-based approaches in terms of task completion rate and overall system efficiency.
• Abstract（参考訳）: 本稿では,大規模言語モデル(LLM)推論のための協調移動エッジコンピューティング(MEC)サーバについて,ソフトデッドライン制約下で検討する。 このシステムでは、サービス品質を改善するために、計算は期限内に完了することが期待されている。 しかしながら、タスクやサブタスク間の依存関係のため、遅れた期限は、リクエスト全体に対して破滅的な結果をもたらす可能性がある。 この文脈では、制約のある柔軟性を持つ拡張期限機構を提案する。 主な課題は、特に各要求にタスク依存がある場合に、許容可能な期限拡張の数を制限する一方で、厳格なレイテンシ制約の下で大規模な計算を扱うことである。 これらの課題に対処するため,MECサーバ間の効率的な協調を可能にするトランスフォーマー強化型PPO(Platformer-enhanced proximal Policy Optimization)フレームワークを開発した。 提案手法は,期限延長を最小化しつつ,期限内に完了したタスク数を最大化することを目的としている。 時間的依存関係とサーバ間のインタラクションをキャプチャすることで、トランスフォーマーはタスクマイグレーションの意思決定を改善する。 シミュレーションの結果,提案手法は従来のPPOやヒューリスティックな手法よりもタスク完了率やシステム全体の効率において優れていた。

関連論文リスト

• End-to-End Latency-Minimizing and Load-Balanced Request Scheduling for Edge LLM Inference in Agentic AI Services [13.04369901641143]
  大規模言語モデル(LLM)を使用したエージェントAIサービスでは、低レイテンシ推論がますます求められている。 本研究では,各要求に対する送信,プリフィル,再分配レベル復号化,キー値キャッシュの進化をキャプチャするクロススロット推論モデルを開発した。 本稿では,Lyapunov最適化による長期負荷分散制約を変換するLYREO手法を提案する。
  論文  参考訳（メタデータ） (2026-09-15T13:50:54Z)
• Multi-Turn Reasoning LLMs for Task Offloading in Mobile Edge Computing [15.718757401948304]
  我々は,MECシステムにおける前向きな意思決定を可能にする生成フレームワークであるCOMLLMを提案する。 COMLLMは、ほぼ最適レイテンシを実現し、ロードバランシングの公平性を向上する。特に、ゼロショットのスケーラビリティを示し、小規模ネットワークでトレーニングされたモデルは、再トレーニングすることなく、より大きく、目に見えないトポロジに一般化することができる。
  論文  参考訳（メタデータ） (2026-04-08T14:38:48Z)
• FlowPrefill: Decoupling Preemption from Prefill Scheduling Granularity to Mitigate Head-of-Line Blocking in LLM Serving [13.856291757420012]
  長期にわたる要求はリソースを独占し、より高いプライオリティの要求を遅らせ、TTFT(Time-to-first-token)サービスレベルの違反を広範囲に発生させる。 本稿では,TTFTに最適化されたサービスシステムであるFlowPrefillを提案する。 FlowPrefillは最先端システムと比較して最大出力を最大5.6$times$に改善することを示す。
  論文  参考訳（メタデータ） (2026-02-18T16:57:45Z)
• Implementing Metric Temporal Answer Set Programming [0.9865428250766767]
  重要な課題は、きめ細かいタイミング制約を扱う際のスケーラビリティを維持することである。 我々は、差分制約(線形制約の単純化された形式)を備えたASPの拡張を活用して、時間関連の側面を外部で処理します。 われわれの手法は、計量ASPを時間の粒度から効果的に分離し、その結果、時間精度の影響を受けない解が得られる。
  論文  参考訳（メタデータ） (2026-01-28T16:07:54Z)
• Cloud-Fog-Edge Collaborative Computing for Sequential MIoT Workflow: A Two-Tier DDPG-Based Scheduling Framework [2.5263430338308557]
  Medical Internet of Things(MIoT)は、異質なクラウドフォッグエッジインフラストラクチャ上にデプロイされたシーケンシャルなヘルスケアに対して、厳しいエンドツーエンドのレイテンシ保証を要求する。 本稿では,スケジューリング決定を階層的なプロセスに分解する2層DDPGベースのスケジューリングフレームワークを提案する。 実験の結果、我々のアプローチを検証し、複雑さが増大するにつれて、ベースラインよりもパフォーマンスが向上することを示した。
  論文  参考訳（メタデータ） (2025-10-24T03:58:31Z)
• Generative Sequential Notification Optimization via Multi-Objective Decision Transformers [9.542285455613927]
  本稿では,政策学習をリターン条件付き教師あり学習として再編成する決定変換器ベースのフレームワークを提案する。 コントリビューションには、CQLと実世界の比較、非エポゾディックなタスクに適したマルチリワード設計、リターン・ツー・ゴ・ゴ・コンディショニングのための量子回帰アプローチなどが含まれます。
  論文  参考訳（メタデータ） (2025-09-02T16:09:02Z)
• Task-Oriented Feature Compression for Multimodal Understanding via Device-Edge Co-Inference [54.53508601749513]
  本稿では,マルチモーダル理解のためのタスク指向特徴圧縮(TOFC)手法を提案する。 圧縮効率を向上させるために、視覚特徴の特性に基づいて複数のエントロピーモデルを適応的に選択する。 その結果,TOFCはデータ転送オーバーヘッドを最大52%削減し,システム遅延を最大63%削減できることがわかった。
  論文  参考訳（メタデータ） (2025-03-17T08:37:22Z)
• Haste Makes Waste: Evaluating Planning Abilities of LLMs for Efficient and Feasible Multitasking with Time Constraints Between Actions [56.88110850242265]
  本稿では,現実の調理シナリオに基づいた新しいベンチマークフレームワークRecipe2Planを紹介する。 従来のベンチマークとは異なり、Recipe2Planは並列タスク実行による調理時間を最適化するためにエージェントに挑戦する。
  論文  参考訳（メタデータ） (2025-03-04T03:27:02Z)
• Sparser is Faster and Less is More: Efficient Sparse Attention for Long-Range Transformers [58.5711048151424]
  SPARSEK Attention(SPARSEK Attention)は、計算およびメモリ障害を克服するために設計された、新しいスパースアテンション機構である。 提案手法では,各クエリに対して一定数のKVペアを選択するために,スコアリングネットワークと差別化可能なトップkマスク演算子であるSPARSEKを統合する。 実験結果から,SPARSEK注意は従来のスパースアテンション法よりも優れていた。
  論文  参考訳（メタデータ） (2024-06-24T15:55:59Z)
• Successive Refinement in Large-Scale Computation: Advancing Model Inference Applications [67.76749044675721]
  階層化分解能計算の解を導入する。 これらの解により、最終結果よりも早い段階でより解像度の低い結果が得られる。
  論文  参考訳（メタデータ） (2024-02-11T15:36:33Z)
• A Multi-Head Ensemble Multi-Task Learning Approach for Dynamical Computation Offloading [62.34538208323411]
  共有バックボーンと複数の予測ヘッド(PH)を組み合わせたマルチヘッドマルチタスク学習(MEMTL)手法を提案する。 MEMTLは、追加のトレーニングデータを必要とせず、推測精度と平均平方誤差の両方でベンチマーク手法より優れている。
  論文  参考訳（メタデータ） (2023-09-02T11:01:16Z)
• Combining Deep Learning and Optimization for Security-Constrained Optimal Power Flow [94.24763814458686]
  セキュリティに制約のある最適電力フロー(SCOPF)は、電力システムの基本である。 SCOPF問題におけるAPRのモデル化は、複雑な大規模混合整数プログラムをもたらす。 本稿では,ディープラーニングとロバスト最適化を組み合わせた新しい手法を提案する。
  論文  参考訳（メタデータ） (2020-07-14T12:38:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。