論文の概要: Batch-Paced: Fixed-Budget Batch Decoding in Discrete Diffusion Language Models

• arxiv url: http://arxiv.org/abs/2610.17917v1
• Date: Tue, 13 Oct 2026 08:08:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-17 08:13:22.722433
• Title: Batch-Paced: Fixed-Budget Batch Decoding in Discrete Diffusion Language Models
• Title（参考訳）: バッチ処理:離散拡散言語モデルにおける固定予算バッチデコーディング
• Abstract要約: 固定予算のdLLMバッチデコーディングを定式化し、トレーニング不要なBatch-Pacedを導入する。 2つのdLLMバックボーン、5つのベンチマークとそれらの代表的なミックスで、Batch-Pacedはマッチした予算下でのバッチパフォーマンスを改善している。 Batch-Pacedのバッチデコード時間は依然として競争力があり、Batch-Pacedデコード中にデコード深みの許容時間を追加することで、パフォーマンスの面でさらに短縮できることを示す。
• 参考スコア（独自算出の注目度）: 19.211257020568556
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As generative language models become more capable and widely used, inference demand grows, making efficient serving increasingly important. Discrete diffusion language models (dLLMs) offer a promising path to more efficient inference through parallel token generation. Prior dLLM decoding methods, however, focus on improving inference efficiency for individual sequences. We formulate fixed-budget dLLM batch decoding and introduce Batch-Paced, a training-free method that jointly optimizes the allocation of decoding compute across requests to improve overall batch quality. Across two dLLM backbones, five benchmarks and their representative mixtures, Batch-Paced improves batch performance under matched budgets; gains generally grow with batch size and largely persist across decoding configurations. Analysis of requests' decoding trajectories suggests that these gains arise largely by raising the committed-token confidence of lower-confidence requests. We further show that Batch-Paced's batch decode time remains competitive and that adding a decoding-depth allowance during Batch-Paced decoding can shorten it further at a modest performance cost.
• Abstract（参考訳）: 生成言語モデルがより有能で広く使われるようになると、推論需要が増加し、効率的なサービスの提供がますます重要になる。 離散拡散言語モデル (dLLMs) は、並列トークン生成によるより効率的な推論への有望な経路を提供する。 しかし、以前のdLLM復号法は、個々のシーケンスの推論効率の向上に重点を置いていた。 我々は、固定予算のdLLMバッチデコーディングを定式化し、バッチ品質を改善するために、リクエスト間のデコード処理の割り当てを共同で最適化するトレーニング不要なBatch-Pacedを導入する。 2つのdLLMバックボーン、5つのベンチマークとそれらの代表的なミックスで、Batch-Pacedはマッチした予算下でのバッチパフォーマンスを改善している。 要求の復号軌道の分析は、これらの利得が主に、低信頼の要求に対する献身的な信頼を高めることによって生じることを示唆している。 さらに,Batch-Pacedのバッチデコード時間が競争力を維持するとともに,Batch-Pacedデコード中にデコード深度を付与することで,パフォーマンスコストを抑えられることを示す。

関連論文リスト

• FLARE: Diffusion for Hybrid Language Model [72.60770374799634]
  FLAREは、ハイブリッドアテンションな大規模言語モデルのための体系的な変換フレームワークである。 トークン平等なAR/拡散目標、ハードウェア対応カーネル、統一推論を組み合わせることで、ひとつのチェックポイントがARスタイルの検証された復号化と拡散スタイルの並列復号化の両方をサポートすることができる。 この結果から,実際のdLLMは復号化アルゴリズムだけでなく,データ品質や現在のブロック拡散目標のトレーニング非効率によって制限されていることが示唆された。
  論文  参考訳（メタデータ） (2026-06-01T06:58:15Z)
• On the Quantization Robustness of Diffusion Language Models in Coding Benchmarks [0.09665867043802821]
  自動回帰大言語モデル(LLM)は、コーディングタスクにおいて高いパフォーマンスを達成するが、高いメモリと推論コストを発生させる。 本稿では,PTQ 技術,特に GPTQ と改良型 Hessian-Aware Quantization (HAWQ) アルゴリズムの適用と堅牢性について検討する。
  論文  参考訳（メタデータ） (2026-04-22T00:53:43Z)
• $R^2$-dLLM: Accelerating Diffusion Large Language Models via Spatio-Temporal Redundancy Reduction [28.068667649331246]
  推論とトレーニングの両方の観点から,デコード冗長性を低減するための統一的なフレームワークを提案する。 R2$-dLLMは、既存のデコード戦略と比較して、デコードステップの数を最大75%削減する。
  論文  参考訳（メタデータ） (2026-04-21T02:26:08Z)
• Accelerate Speculative Decoding with Sparse Computation in Verification [49.74839681322316]
  投機的復号化は、複数のドラフトトークンを並列に検証することにより、自動回帰言語モデル推論を加速する。 既存のスペーシフィケーション方式は主にトークン・バイ・トーケンの自己回帰復号化のために設計されている。 そこで本研究では,注目度,FFN,MoEを両立させるスパース検証フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-12-26T07:53:41Z)
• Orchestrating Dual-Boundaries: An Arithmetic Intensity Inspired Acceleration Framework for Diffusion Language Models [8.516574616235427]
  ODB-dLLMはdLLM推論を加速するために二重境界を編成するフレームワークである。 我々は,ODB-dLLMがベースラインdLLMとFast-dLLMで46-162xと2.63-6.30xの高速化を達成したことを示す。
  論文  参考訳（メタデータ） (2025-11-24T13:36:54Z)
• CreditDecoding: Accelerating Parallel Decoding in Diffusion Large Language Models with Trace Credits [37.06886078519443]
  CreditDecodingはトレーニング不要の並列デコーディングアルゴリズムで、正確だが不確実なトークンの信頼収束を加速する。 8つのベンチマークでは、CreditDecodingはLLaDA-8B-Instructよりも5.48倍の高速化と0.48のパフォーマンス向上を実現している。
  論文  参考訳（メタデータ） (2025-10-07T17:08:33Z)
• Free Draft-and-Verification: Toward Lossless Parallel Decoding for Diffusion Large Language Models [8.407364705777587]
  本稿では,DLLMに適した高速デコードアルゴリズムFree Draft-and-Verification(FreeDave)を紹介する。 FreeDaveは、パフォーマンスを低下させることなく、推論スループットを最大3.78倍に向上させることが証明されている。
  論文  参考訳（メタデータ） (2025-09-30T21:28:04Z)
• Speculative Diffusion Decoding: Accelerating Language Generation through Diffusion [55.0194604505437]
  投機的復号化は,大規模言語モデル推論を高速化する手法として広く採用されている。 本稿では,離散拡散モデルを用いてドラフトシーケンスを生成する投機的復号法を提案する。
  論文  参考訳（メタデータ） (2024-08-10T21:24:25Z)
• Speculative Contrastive Decoding [55.378200871224074]
  大規模言語モデル(LLM)は、言語タスクにおいて例外的な性能を示すが、その自動回帰推論は高い計算要求のために制限され、露出バイアスにより準最適である。 投機的復号法とコントラスト的復号法に着想を得て, 単純かつ強力な復号法である投機的コントラスト的復号法(SCD)を導入する。
  論文  参考訳（メタデータ） (2023-11-15T14:15:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。