論文の概要: DWISE: Denoising Workload-Informed Scheduling Engine

• arxiv url: http://arxiv.org/abs/2610.39852v1
• Date: Thu, 29 Oct 2026 11:31:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-31 05:25:12.4983
• Title: DWISE: Denoising Workload-Informed Scheduling Engine
• Title（参考訳）: DWISE: ワークロードインフォームドスケジューリングエンジン
• Abstract要約: 効率的なdLLMサービスのためのスケジューリングエンジンであるDWISEを提案する。 DWISEは、入場時の軽量なプロンプトベースの予測器と、第1ラウンドの隠蔽状態からの1つの改善を組み合わせている。 DWISEは、SGLang上の平均エンドツーエンドのレイテンシを平均5.4$times$、タスク精度を維持しながら14.9$times$まで削減する。
• 参考スコア（独自算出の注目度）: 47.910668160486125
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Unlike autoregressive large language models (AR-LLMs), diffusion LLMs (dLLMs) generate text by iteratively denoising many tokens in parallel, offering a promising path to efficient inference. Existing serving frameworks, however, schedule dLLM requests with policies designed for AR models, namely first-come-first-served (FCFS) admission and prefill priority. We find that both policies are ill-suited to dLLMs, wasting much of their speed. FCFS ignores that a dLLM request's decoding cost is highly heterogeneous and unknown at arrival, causing severe head-of-line blocking. Prefill priority, widely used in AR-LLM serving to keep time-to-first-token low, sharply cuts dLLM efficiency, as rounds that run only prompts leave most of the batch idle. We present DWISE, a Denoising Workload-Informed Scheduling Engine for efficient dLLM serving. DWISE schedules requests by their remaining work, measured in a block-level unit shared by prefill and denoising, so both phases share a round. To predict the unknown denoising workload, DWISE combines a lightweight prompt-based predictor at admission with a single refinement from the first denoising round's hidden states, which capture model-specific information absent from the prompt and require no additional model execution. Implemented in SGLang and evaluated on five models from three dLLM families under bursty workloads, DWISE reduces mean end-to-end latency over SGLang by 5.4$\times$ on average and up to 14.9$\times$ while preserving task accuracy. The code will be released publicly.
• Abstract（参考訳）: 自己回帰型大規模言語モデル(AR-LLMs)とは異なり、拡散LLM(dLLMs)は、多くのトークンを並列に反復的に記述することでテキストを生成する。 しかし、既存のサービスフレームワークは、dLLMリクエストをARモデル用に設計されたポリシーでスケジュールする。 どちらのポリシーもdLLMに不適であり、その速度の大部分を浪費していることが分かりました。 FCFSは、dLLM要求の復号コストが非常に均一であり、到着時に未知であり、ラインのヘッド・オブ・ラインのブロッキングを引き起こすことを無視する。 プレフィルプライオリティはAR-LLMで広く使われており、バッチアイドルの大部分を発生させるだけであるので、時間からファーストまでの低い値を維持するために、dLLMの効率を鋭く削減する。 効率的なdLLMサービスを実現するためのDenoising Workload-Informed Scheduling EngineであるDWISEを提案する。 DWISEは、プレフィルとデノナイズによって共有されるブロックレベルのユニットで測定された残りの作業によってリクエストをスケジュールするので、どちらのフェーズもラウンドを共有します。 未知の復調作業負荷を予測するために、DWISEは、入場時の軽量なプロンプトベースの予測器と、第1の復調ラウンドの隠蔽状態からの1つの改善とを組み合わせて、プロンプトから欠落したモデル固有情報をキャプチャし、追加のモデル実行を必要としない。 SGLangで実装され、バーストワークロード下で3つのdLLMファミリーから5つのモデルで評価されるDWISEは、タスクの正確性を保ちながら、平均5.4$\times$と最大14.9$\times$を削減した。 コードは公開されます。

関連論文リスト

• Denoising Surface: Modeling and Predicting Inference Cost for Diffusion LLM Serving [20.53225577282448]
  本稿では,2次元ブロックステップ構造を確率曲面として保存し,不均一なステップ毎のコストを重み付けするDenoising Workload Surface (DWS)を提案する。 テクトリアルワールドのサービス実験では、DWSはスカラーベースの予測器よりもコスト予測誤差を最大2.50タイムで削減する。
  論文  参考訳（メタデータ） (2026-09-30T18:01:37Z)
• The Bitter Lesson of Diffusion Language Models for Agentic Workflows: A Comprehensive Reality Check [54.08619694620588]
  本稿では,2つの異なるエージェントパラダイムであるEmbodied AgentsとTool-Calling AgentsにまたがるdLLMの包括的評価を行う。 Agentboard と BFCL では,現在の dLLM が信頼できるエージェントバックボーンとして機能しないという,"ビットレッスン" が報告されている。
  論文  参考訳（メタデータ） (2026-01-19T11:45:39Z)
• Fast-dLLM v2: Efficient Block-Diffusion LLM [64.38006546510337]
  Fast-dLLM v2はブロック拡散言語モデルで、訓練済みのARモデルをdLLMに適応して並列テキストを生成する。 これは、Dream(580Bトークン)のようなフルアテンション拡散LDMと比較して、トレーニングデータの500倍の減少を示す。
  論文  参考訳（メタデータ） (2025-09-30T14:40:18Z)
• Sparse-dLLM: Accelerating Diffusion LLMs with Dynamic Cache Eviction [72.27673320976933]
  Diffusion Large Language Models (dLLMs) は推論と並列デコードにおけるブレークスルーを可能にする。 現在のキャッシュ技術は、フルレイヤ状態を保存することでデコーディングを加速するが、メモリ使用量を大幅に増加させる。 Sparse-dLLMは、動的キャッシュ消去とスパースアテンションを統合した最初のトレーニングフリーフレームワークである。
  論文  参考訳（メタデータ） (2025-08-04T16:14:03Z)
• dLLM-Cache: Accelerating Diffusion Large Language Models with Adaptive Caching [27.114862565164145]
  拡散に基づく大規模言語モデルは、反復的にマスキングされたセグメントによってテキストを生成する。 dLLMは高い推論遅延に悩まされる。 従来のARMアクセラレーション技術は、dLLMと互換性がない。 トレーニング不要な適応型キャッシュフレームワークであるdLLM-Cacheを提案する。
  論文  参考訳（メタデータ） (2025-05-17T15:50:46Z)
• Priority-Aware Preemptive Scheduling for Mixed-Priority Workloads in MoE Inference [4.7730970530715835]
  大規模言語モデルは自然言語処理に革命をもたらしたが、データセンターで効率的に処理するのは難しい。 我々は、Mixture of Experts(MoE)モデル用に設計された新しい推論システムQLLMを紹介する。 QLLMはエキスパートレベルのプリエンプションを可能にし、LS Time-to-First-Token(TTFT)を最小化しながらBEジョブの実行を遅延させる。
  論文  参考訳（メタデータ） (2025-03-12T11:56:01Z)
• Efficient Interactive LLM Serving with Proxy Model-based Sequence Length Prediction [8.705908108054878]
  大型モデル(LLM)は、多くのドメインにわたるAIアプリケーションの新しい波を駆動している。 LLM出力シーケンス長の予測に光プロキシモデルを用いる投機的ショートストジョブファースト(SSJF)スケジューラを提案する。
  論文  参考訳（メタデータ） (2024-04-12T14:46:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。