論文の概要: BlockPilot: Instance-Adaptive Policy Learning for Diffusion-based Speculative Decoding

• arxiv url: http://arxiv.org/abs/2606.31315v1
• Date: Tue, 30 Jun 2026 08:24:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-01 18:27:19.137551
• Title: BlockPilot: Instance-Adaptive Policy Learning for Diffusion-based Speculative Decoding
• Title（参考訳）: BlockPilot: 拡散ベースの投機的デコーディングのためのインスタンス適応型ポリシー学習
• Abstract要約: 投機的復号化は、ブロックレベルの拡散を通じてフォワードパス毎に複数のトークンを生成することで並列性を改善する。 既存の手法では、固定された推論ブロックサイズを採用し、全ての入力に対して最適なデコード戦略を仮定する。 最適なブロックサイズがサンプルによって異なり、投機的復号性能において重要な役割を果たすため、この仮定は準最適であることを示す。 プリフィル表現から最適なブロックサイズを予測する,サンプル適応型ポリシであるBlockPilotを提案する。
• 参考スコア（独自算出の注目度）: 20.29443489871258
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Speculative decoding accelerates inference by using a lightweight draft model to generate candidate tokens in parallel, and are then verified by the target model, enabling lossless acceleration. Recently, diffusion-based speculative decoding further improves parallelism by generating multiple tokens per forward pass via block-level diffusion, achieving state-of-the-art (SOTA) performance. However, existing methods adopt a fixed inference block size and assume a uniform optimal decoding strategy across all inputs. In this paper, we show that this assumption is suboptimal, as the optimal block size varies across samples and plays a critical role in speculative decoding performance. Moreover, these values exhibit a clear local structure, concentrating around the training block size, which reduces the problem to a low-dimensional and structured decision space. Based on these insights, we propose BlockPilot, a sample-adaptive policy that predicts the optimal block size from the prefilling representation. Specifically, we formulate block size selection as a lightweight policy learning problem and propose an instance-adaptive decision mechanism that predicts the optimal block size based on the representation of the prefilling stage. The prediction is performed only once after prefilling, allowing for seamless integration. Extensive experiments demonstrate that our method is plug-and-play, introduces minimal overhead, and consistently improves efficiency, achieving an acceptance length of 5.92 and a 4.20$\times$ speedup on Qwen3-4B under temperature $T=1$.
• Abstract（参考訳）: 投機的復号化は、軽量なドラフトモデルを用いて並列に候補トークンを生成することで推論を加速し、ターゲットモデルによって検証され、ロスレスアクセラレーションを可能にする。 近年、拡散に基づく投機的復号化は、ブロックレベルの拡散により前方通過毎に複数のトークンを生成し、最先端(SOTA)性能を達成することで並列性をさらに向上している。 しかし、既存の手法では固定された推論ブロックサイズを採用し、全ての入力に対して一様に最適なデコーディング戦略を仮定する。 本稿では,最適なブロックサイズがサンプルによって異なり,投機的復号性能において重要な役割を果たすため,この仮定が最適以下であることを示す。 さらに、これらの値は、トレーニングブロックサイズを中心にした明確な局所構造を示し、問題を低次元かつ構造化された決定空間に還元する。 これらの知見に基づいて、プリフィル表現から最適なブロックサイズを予測するサンプル適応型ポリシーであるBlockPilotを提案する。 具体的には、ブロックサイズ選択を軽量なポリシー学習問題として定式化し、プリフィルステージの表現に基づいて最適なブロックサイズを予測するインスタンス適応型決定機構を提案する。 予測はプリフィル後に1回だけ実行され、シームレスな統合を可能にする。 拡張実験により,本手法はプラグ・アンド・プレイであり,最小限のオーバーヘッドを導入し,連続的に効率を向上し,温度$T=1$のQwen3-4Bの受信長5.92および4.20$\times$スピードアップを達成した。

関連論文リスト

• DBLAST: Dependent Block Drafting for Stochastic Speculative Decoding [26.72775347772003]
  対象サンプリング分布のエントロピーが増加するにつれて,受理されたドラフト長が劣化することを示す。 本稿では,トークン位置上での低ランク遅延混合に基づいて,受入指向の学習目標を補完する依存ブロック起草手法を提案する。
  論文  参考訳（メタデータ） (2026-08-05T22:49:54Z)
• Efficient Long-Context Modeling in Diffusion Language Models via Block Approximate Sparse Attention [58.484607892210015]
  Diffusion Language Models (DLM) は、グローバルコヒーレント、双方向、および制御可能なテキスト生成を可能にする。 既存の多くのブロックスパースアテンション手法は、高分解能アテンション空間上の固定サンプリングパターンによってブロックを選択する。 本稿では,ブロックワイド事前サンプリング操作によるBA-Att(Block Approximate Sparse Attention framework)を提案する。
  論文  参考訳（メタデータ） (2026-05-19T12:01:13Z)
• SpecTr-GBV: Multi-Draft Block Verification Accelerating Speculative Decoding [5.247507695462136]
  マルチドラフトとグレディブロックの検証を単一のフレームワークに統合する新しいSD手法であるSpecTr-GBVを提案する。 理論的には、SpecTr-GBVが、ドラフト生成のフレームワーク内で物理的に達成可能な最適な受容長を達成することを証明している。 本手法は,出力品質を保ちながら,優れた高速化とブロック効率の向上を実現する。
  論文  参考訳（メタデータ） (2026-04-01T11:52:46Z)
• Towards Practical Lossless Neural Compression for LiDAR Point Clouds [84.36825469211375]
  高精度な幾何学的詳細の極端に広い範囲は、効率的な文脈モデリングを妨げる。 私たちのフレームワークは2つの軽量モジュールで構成されています。 実験では、リアルタイムに競争力のある圧縮性能を示す。
  論文  参考訳（メタデータ） (2026-03-26T10:02:07Z)
• Advancing Block Diffusion Language Models for Test-Time Scaling [73.54022593833638]
  BDLMにおけるテスト時間スケーリングのための統一的なフレームワークを提案する。 復号化とブロックワイズ生成の両方に適応性を導入する。 BACD, TCCFをTDAR-8Bに適用すると, 強いベースラインよりも顕著な改善が得られた。
  論文  参考訳（メタデータ） (2026-02-10T09:05:07Z)
• AdaBlock-dLLM: Semantic-Aware Diffusion LLM Inference via Adaptive Block Size [7.442463267121892]
  拡散に基づく大規模言語モデル (dLLM) は並列デコードに固有の能力で注目を集めている。 本稿では,セミARデコードにおける固定ブロックサイズの仮定に挑戦する最初の体系的な研究を提案する。 AdaBlock-dLLMは,実行中のブロックサイズを調整することで,ブロック境界とセマンティックステップを適応的に調整する,トレーニング不要のプラグイン・アンド・プレイスケジューラである。
  論文  参考訳（メタデータ） (2025-09-30T15:53:56Z)
• Re-Densification Meets Cross-Scale Propagation: Real-Time Neural Compression of LiDAR Point Clouds [83.39320394656855]
  LiDARポイントクラウドは、様々なアプリケーションに基本的だが、高精度スキャンは、かなりのストレージと送信オーバーヘッドを発生させる。 既存の手法では、非順序の点を階層的なオクツリーやボクセル構造に変換して、密度から疎い予測符号化を行うのが一般的である。 筆者らのフレームワークは2つの軽量モジュールから構成されている。まず、Geometry Re-Densification Moduleがエンコードされたスパース幾何を再認識し、より密なスケールで特徴を抽出し、予測符号化のための特徴を再分離する。
  論文  参考訳（メタデータ） (2025-08-28T06:36:10Z)
• Blockwise SFT for Diffusion Language Models: Reconciling Bidirectional Attention and Autoregressive Decoding [60.06816407728172]
  離散拡散言語モデルは、テキスト生成に強い可能性を示している。 半自己回帰推論による微調整ミスアライメントの標準化 我々は、応答を固定サイズブロックに分割するBlockwise SFTを提案する。
  論文  参考訳（メタデータ） (2025-08-27T02:49:33Z)
• BlockCopy: High-Resolution Video Processing with Block-Sparse Feature Propagation and Online Policies [57.62315799929681]
  BlockCopyは、事前訓練されたフレームベースのCNNを高速化して、より効率的にビデオを処理するスキームである。 軽量ポリシーネットワークは、画像内の重要領域を決定し、選択された領域のみに操作を適用する。 非選択領域の特徴は、単に前のフレームからコピーされ、計算数とレイテンシーが減少する。
  論文  参考訳（メタデータ） (2021-08-20T21:16:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。