論文の概要: ECCOS: Efficient Capability and Cost Coordinated Scheduling for Multi-LLM Serving

• arxiv url: http://arxiv.org/abs/2502.20576v2
• Date: Fri, 07 Mar 2025 13:35:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-10 12:21:52.738927
• Title: ECCOS: Efficient Capability and Cost Coordinated Scheduling for Multi-LLM Serving
• Title（参考訳）: ECCOS: マルチLLMサービングのための効率的な能力とコスト調整スケジューリング
• Authors: Kai Mei, Wujiang Xu, Shuhang Lin, Yongfeng Zhang,
• Abstract要約: 大規模言語モデル(LLM)は、システム内のサービスエンドポイントとしてますます多くデプロイされている。 既存のスケジューリングフレームワークは主にレイテンシの最適化をターゲットとしている。 本稿では,マルチLLMサービスのための機能コスト協調スケジューリングフレームワークECCOSを提案する。
• 参考スコア（独自算出の注目度）: 31.60019342381251
• License:
• Abstract: As large language models (LLMs) are increasingly deployed as service endpoints in systems, the surge in query volume creates significant scheduling challenges. Existing scheduling frameworks mainly target at latency optimization while neglecting the capability of LLMs to serve different level of queries, which could lead to computational resource waste. This paper addresses this challenge by proposing a capability-cost coordinated scheduling framework, ECCOS, for multi-LLM serving, which explicitly constrains response quality and workload to optimize LLM inference cost. Specifically, it introduces the two-stage scheduling by designing a multi-objective predictor and a constrained optimizer. The predictor estimates both model capabilities and computational costs through training-based and retrieval-based approaches, while the optimizer determines cost-optimal assignments under quality and workload constraints. It also introduces QAServe, a dataset collected for sample-wise response quality and costs by zero-shot prompting different LLMs on knowledge QA and mathematical reasoning. Extensive experiments demonstrate that ECCOS improves success rates by 6.30% while reducing costs by 10.15% compared to existing methods, consuming less than 0.5% of LLM response time. The code is available at: https://github.com/agiresearch/ECCOS.
• Abstract（参考訳）: システム内のサービスエンドポイントとして大規模言語モデル(LLM)がますますデプロイされるにつれて、クエリボリュームの急増は、大きなスケジュール上の課題を生み出します。 既存のスケジューリングフレームワークは主にレイテンシの最適化を目標としているが、LLMが異なるレベルのクエリを提供する能力を無視しているため、計算リソースの浪費につながる可能性がある。 本稿では,マルチLLMサービスのための機能コスト調整型スケジューリングフレームワークであるECCOSを提案し,LLM推論コストを最適化するために応答品質とワークロードを明示的に制約する。 具体的には、多目的予測器と制約付き最適化器を設計し、2段階スケジューリングを導入する。 予測器は、トレーニングベースおよび検索ベースアプローチにより、モデル能力と計算コストの両方を推定し、最適化器は、品質とワークロードの制約の下で、コスト最適割り当てを決定する。 QAServeは、サンプルの応答品質とコストをゼロショットで収集したデータセットで、知識QAと数学的推論に基づいて異なるLLMをプロンプトする。 大規模な実験では、ECCOSは従来の方法に比べてコストを10.15%削減し、成功率を6.30%改善し、LCM応答時間の0.5%未満を消費している。 コードは、https://github.com/agiresearch/ECCOSで入手できる。

関連論文リスト

• CITER: Collaborative Inference for Efficient Large Language Model Decoding with Token-Level Routing [56.98081258047281]
  CITERはトークンレベルのルーティング戦略を通じて、小規模および大規模言語モデル(SLMs & LLMs)間の効率的な協調を可能にする。 ルータの学習をポリシー最適化として定式化し、予測の質と生成の推論コストの両方に基づいて報酬を受け取る。 実験の結果,CITERは高品質な生成を保ちながら推論コストを低減し,リアルタイムおよびリソース制約のあるアプリケーションに対して有望なソリューションを提供することがわかった。
  論文  参考訳（メタデータ） (2025-02-04T03:36:44Z)
• Reward-Guided Speculative Decoding for Efficient LLM Reasoning [80.55186052123196]
  Reward-Guided Speculative Decoding (RSD)は,大規模言語モデル(LLM)における推論の効率向上を目的とした新しいフレームワークである。 RSDは、厳密な偏りを強制する既存の投機的復号法とは対照的に、制御されたバイアスをハイリワード出力の優先順位付けに取り入れている。 RSDは,対象モデルのみでの復号化に対して,高い効率向上を実現し,並列復号法よりも高い精度を実現している。
  論文  参考訳（メタデータ） (2025-01-31T17:19:57Z)
• Efficiently Serving LLM Reasoning Programs with Certaindex [4.681117143870077]
  Dynasorは、大規模言語モデル(LLM)の推論時間計算を最適化するシステムである。 従来のエンジンとは異なり、Dynasorは推論クエリ内で要求を追跡し、スケジュールする。 バッチ処理で最大50%削減され、クエリレートが3.3倍、オンラインサービスで4.7倍のレイテンシSLOが持続する。
  論文  参考訳（メタデータ） (2024-12-30T14:57:53Z)
• Learning for Cross-Layer Resource Allocation in MEC-Aided Cell-Free Networks [71.30914500714262]
  移動エッジコンピューティング(MEC)を援用したセルフリーネットワーク上でのクロスレイヤリソース割り当ては、データレートを促進するために、送信およびコンピューティングリソースを十分に活用することができる。 深層学習の観点からMEC支援セルフリーネットワークのサブキャリア配置とビームフォーミング最適化について検討した。
  論文  参考訳（メタデータ） (2024-12-21T10:18:55Z)
• PickLLM: Context-Aware RL-Assisted Large Language Model Routing [0.5325390073522079]
  PickLLMは、RL(Reinforcement Learning)を使用してオンザフライクエリを利用可能なモデルにルーティングする軽量フレームワークである。 学習速度の違いに対する収束の速度と,クエリ毎のコストや全体の応答遅延といったハードメトリクスの改善を実証する。
  論文  参考訳（メタデータ） (2024-12-12T06:27:12Z)
• The Effect of Scheduling and Preemption on the Efficiency of LLM Inference Serving [8.552242818726347]
  INFERMAXは様々なスケジューラを比較するために推論コストモデルを使用する分析フレームワークである。 その結果,プリエンプション要求はプリエンプションを回避するよりもGPUコストを30%削減できることがわかった。
  論文  参考訳（メタデータ） (2024-11-12T00:10:34Z)
• VinePPO: Unlocking RL Potential For LLM Reasoning Through Refined Credit Assignment [66.80143024475635]
  VinePPOは不偏のモンテカルロ推定を計算するための簡単な手法である。 我々は、VinePPOが、MATHおよびGSM8Kデータセット間でPPOや他のRLフリーベースラインを一貫して上回ることを示す。
  論文  参考訳（メタデータ） (2024-10-02T15:49:30Z)
• Characterization of Large Language Model Development in the Datacenter [55.9909258342639]
  大きな言語モデル(LLM)は、いくつかの変換タスクにまたがって素晴らしいパフォーマンスを示している。 しかし,大規模クラスタ資源を効率よく利用してLCMを開発することは容易ではない。 我々は,GPUデータセンタAcmeから収集した6ヶ月のLDM開発ワークロードの詳細な評価を行った。
  論文  参考訳（メタデータ） (2024-03-12T13:31:14Z)
• Towards Optimizing the Costs of LLM Usage [4.032848774697859]
  理論的にも経験的にも、品質とコストを両立させる最適化問題について検討する。 トークンを品質に配慮した方法で低減するためのいくつかの決定論的手法を提案する。 本手法は,品質を4%から7%向上させながら,コストを40%から90%削減する。
  論文  参考訳（メタデータ） (2024-01-29T16:36:31Z)
• OverPrompt: Enhancing ChatGPT through Efficient In-Context Learning [49.38867353135258]
  複数のタスク入力を処理するために,LLMのコンテキスト内学習機能を活用したOverPromptを提案する。 本実験により,OverPromptはタスク性能を著しく損なうことなく,コスト効率の良いゼロショット分類を実現することができることがわかった。
  論文  参考訳（メタデータ） (2023-05-24T10:08:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。