論文の概要: Acoustic Progress Propagation for Long-Horizon Speculative Decoding in ASR

• arxiv url: http://arxiv.org/abs/2609.33245v1
• Date: Sun, 27 Sep 2026 05:36:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 01:52:23.129867
• Title: Acoustic Progress Propagation for Long-Horizon Speculative Decoding in ASR
• Title（参考訳）: ASRにおける長軸投機デコードのための音響プログレスプロパゲーション
• Abstract要約: 提案するプログレッシブ・アウェア・プロジェクティブ・プロジェクティブ・プロジェクティブ・プロジェクタは, プロジェクティブ・プロジェクティブ・プロジェクティブ・プロジェクティブ・プロジェクターで, プロジェクティブ・プロジェクティブ・プロジェクターの 可変なドラフトの地平線上で、ドラフトと進捗予測を共同でトレーニングします。 ホライゾン・スイープは、ベースラインの飽和を超えて、受け入れ期間が伸び続けていることを示している。
• 参考スコア（独自算出の注目度）: 5.371633170223441
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Speculative decoding accelerates autoregressive automatic speech recognition (ASR), but the acceptance length of alignment-aware drafters can saturate as the draft horizon increases. We propose a progress-aware speculative drafter that recurrently propagates an acoustic progress state across draft steps and feeds it back into audio cross-attention to guide token generation. We jointly train the drafter and progress predictor over variable draft horizons. On five ASR test sets, our method achieves lossless, macro-averaged end-to-end speedups of 1.657x and 1.227x over target-only autoregressive decoding with Qwen3-ASR-0.6B and Qwen3-ASR-1.7B, respectively. Relative to AnchorDraft, our method improves the macro-averaged speedup by 34.3% and 9.0%, respectively. Horizon sweeps show continued growth in acceptance length beyond the baselines' saturation. Code is available at https://github.com/yuanyuanjia71-spec/ProgDraft.
• Abstract（参考訳）: 投機的復号化は自己回帰自動音声認識(ASR)を加速させるが、アライメントを意識した草案作成者の受理長は、草案の水平線が増加するにつれて飽和する。 提案するプログレッシブ・アウェア・投機は、プログレッシブ・プログレッシブ・プログレッシブ・プログレッシブ・プログレッシブ・プログレッシブ・プログレッシブ・プログレッシブ・プログレッシブ・プログレッシブ・プログレッシブ・プログレッシブ・プログレッシブ・プログレッシブ・プログレッシブ・プログレッシブ・プログレッシブ・プログレッシブ・プログレッシブ・プログレッシブ・プロジェクション・プロジェクションにより、プログレッシブ・プログレッシブ・プロジェクションを誘導する。 可変なドラフトの地平線上で、ドラフトと進捗予測を共同でトレーニングします。 5つの ASR テストセットにおいて,Qwen3-ASR-0.6B と Qwen3-ASR-1.7B による目標のみの自己回帰デコードに対して,平均値 1.657x と 1.227x の損失のないエンドツーエンドの高速化を実現する。 AnchorDraftと比較して、マクロ平均高速化をそれぞれ34.3%、9.0%改善する。 ホライゾン・スイープは、ベースラインの飽和を超えて、受け入れ期間が伸び続けていることを示している。 コードはhttps://github.com/yuanyuanjia71-spec/ProgDraftで入手できる。

関連論文リスト

• WaveFront Decoding: Parallelized Self-Speculative Decoding for Looped Language Models [8.374784970639263]
  Wavefront Decoding (WFD) は、ループ言語モデル用に設計されたトレーニング不要の自己投機的デコーディングフレームワークである。 WFDは2つの特性を利用する: 中間繰り返し出力は効果的なドラフト予測を提供し、ウェイトシェアリングは異なる位置におけるトークン状態と繰り返し深さを1回のバッチ・リカレント・ブロック呼び出しで処理することを可能にする。
  論文  参考訳（メタデータ） (2026-09-19T14:08:07Z)
• TAAL: Mitigating Early Beam Pruning in Generative Recommendation via Temporal Autoregressive Alignment [11.416581885243964]
  生成レコメンデーションは、アイテムを階層的セマンティック識別子(SID)としてエンコードし、自動回帰デコーディングを通じて次のアイテムを検索する。 しかし、標準的な次トーケン予測では、相互作用系列に存在するマルチモーダル遷移を明示的にカバーしておらず、初期のビーム探索枝における不可逆プルーニングに弱いSIDを残している。 この問題を解決するために,時間的自己回帰アライメント(TAAL)を提案する。 Amazon Beauty、Yelp、およびAmazon Instrumentsでは、TAALは標準ベースラインのNDCG@10をそれぞれ39.5%、6.7%、28.6%改善し、フルに増加している。
  論文  参考訳（メタデータ） (2026-08-29T10:11:47Z)
• Ripple-Pivot Search: Active Parallel Decoding for Diffusion Large Language Models [66.32132912853372]
  Diffusion Large Language Models (dLLMs) は自己回帰型言語モデルの競合代替として登場した。 本研究では,中間エントロピー位置を有望な候補ピボットとして求める訓練自由復号法であるRipple-Pivot Search (RPS)を提案する。 RPSは、生成品質を維持しながら標準デコーダの4-10$times$wall-clockスピードアップを実現し、以前のルックアヘッドベースラインの精度を最大5.49%向上させる。
  論文  参考訳（メタデータ） (2026-08-12T07:32:29Z)
• Margins, Not Windows: Training-Free Per-Step Lossy Speculative Decoding [14.191111229515654]
  本稿では,AdaptiveSpecを紹介した。 復号時に生成した内部信号から、両方の決定を適応させる。 最先端の自己回帰的投機的復号法よりもスループットを向上させる。
  論文  参考訳（メタデータ） (2026-07-03T20:43:49Z)
• D-PACE: Dynamic Position-Aware Cross-Entropy for Parallel Speculative Drafting [59.204113363599994]
  投機的復号化は、小さなドラフト作成者がより大きなターゲットモデルが並列に検証するトークンを提案することによって推論を加速する。 最近の拡散ベースの並列ドラフトア(DFlashなど)は、1つの前方パスで完全なB-tokenブロックを予測し、より深いドラフトアとより長い許容ブロックを可能にする。 各位置の重みと、その対数確率の寄与とを一致させて、期待されるドラフト長の相違可能なサロゲートから、位置毎のトレーニングウェイトを導出する。 6つのベンチマークと2つのQwen3-4Bドラフト深度、2つの復号温度、2つの追加ターゲットモデル、D-PACEは一貫してウォールクロックのスピードアップと平均の両方を改善している。
  論文  参考訳（メタデータ） (2026-05-12T06:27:57Z)
• Fast Inference of Visual Autoregressive Model with Adjacency-Adaptive Dynamical Draft Trees [50.230925890958936]
  本稿では,隣接するトークン状態と先行受入率を活用することで,ドラフトツリーの深さと幅を調整できる適応型動的ドラフトツリーを提案する。 ADT-Treeは、それぞれ3.13xと3.05xのスピードアップを実現し、LANTERNのような緩やかなサンプリング手法とシームレスに統合する。
  論文  参考訳（メタデータ） (2025-12-26T04:45:49Z)
• DiffuSpec: Unlocking Diffusion Language Models for Speculative Decoding [66.40658898418316]
  DiffuSpecは、事前訓練された拡散言語モデル(DLM)を用いて、単一のフォワードパスでマルチトークンのドラフトを生成する、トレーニングフリーのドロップインフレームワークである。 ベンチマーク全体を通じて、DiffuSpecは最大3倍のウォールクロックスピードアップを達成し、投機的復号化のための自己回帰型ドラフトラの堅牢な代替手段として拡散ベースのドラフトを確立する。
  論文  参考訳（メタデータ） (2025-09-28T07:00:15Z)
• FastEagle: Cascaded Drafting for Accelerating Speculative Decoding [6.482154864678126]
  我々はFastEagleを紹介します。FastEagleは非自己回帰的なカスケードのドラフトで、ドラフト全体を1つのフォワードパスで出力します。 FastEagleは、競争力のある受け入れ動作を維持しながら、強力な自己回帰型ドラフトラに対して、ウォールタイムの大幅なスピードアップを提供する。
  論文  参考訳（メタデータ） (2025-09-24T09:38:32Z)
• Advanced Long-context End-to-end Speech Recognition Using Context-expanded Transformers [56.56220390953412]
  コンフォーメータアーキテクチャを導入することで、精度をさらに向上させ、以前の作業を拡張します。 拡張トランスフォーマーは、最先端のエンドツーエンドのASR性能を提供する。
  論文  参考訳（メタデータ） (2021-04-19T16:18:00Z)
• FastEmit: Low-latency Streaming ASR with Sequence-level Emission Regularization [78.46088089185156]
  ストリーム自動音声認識(ASR)は、仮説化された単語を可能な限り迅速かつ正確に出力することを目的としている。 既存のアプローチでは、シーケンストランスデューサモデルにおいて、トーケン単位またはフレーム単位の確率予測を演算することで、発光遅延をペナルティ化する。 本稿では,訓練用トランスデューサモデルにおいて,シーケンス毎の確率に遅延正規化を直接適用する,FastEmitというシーケンスレベルのエミッション正規化手法を提案する。
  論文  参考訳（メタデータ） (2020-10-21T17:05:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。