論文の概要: Non-Autoregressive Minimum Bayes' Risk Decoding for Fast Speech Recognition
- arxiv url: http://arxiv.org/abs/2606.17537v1
- Date: Tue, 16 Jun 2026 05:28:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-17 17:15:32.288347
- Title: Non-Autoregressive Minimum Bayes' Risk Decoding for Fast Speech Recognition
- Title(参考訳): 高速音声認識のための非自己回帰最小ベイズのリスクデコード
- Authors: Hiroyuki Deguchi, Takatomo Kano, Katsuki Chousa, Marc Delcroix,
- Abstract要約: 非自己回帰復号(NAR)は出力トークンを並列に生成し、音声認識を自己回帰復号よりも高速にする。
我々は,最小ベイズリスク(MBR)デコーディングに基づく新しいNARデコーディングフレームワーク,NAR-MBRデコーディングを提案する。
LibriSpeech, Switchboard, AMI, およびWebプレゼンテーションコーパスを対象に行った実験では, NAR-MBRデコーディングが従来のNARデコーディングより優れており,ARデコーディングよりも高速に動作していることが実証された。
- 参考スコア(独自算出の注目度): 28.922057447319315
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Non-autoregressive (NAR) decoding generates output tokens in parallel, making speech recognition faster than autoregressive decoding, which generates them sequentially from left to right. However, the recognition performance is degraded because NAR decoding cannot resolve uncertainty by conditioning on previously generated tokens. To address this issue, we propose a novel NAR decoding framework based on minimum Bayes' risk (MBR) decoding, termed NAR-MBR decoding, that maximizes the expected utility calculated from samples drawn from the output probability of an NAR model rather than maximizing the output probability. Notably, by leveraging the nature of NAR models, multiple samples are obtained efficiently with a single forward computation. Our experiments across LibriSpeech, Switchboard, AMI, and web presentation corpus demonstrated that our NAR-MBR decoding outperformed previous NAR decoding and ran faster than AR decoding.
- Abstract(参考訳): 非自己回帰復号(NAR)は出力トークンを並列に生成し、音声認識を自己回帰復号よりも高速にし、左から右へ順次生成する。
しかし、NAR復号化は、以前に生成されたトークンの条件付けによって不確実性を解消できないため、認識性能は劣化する。
この問題に対処するために,最小ベイズリスク(MBR)デコーディングに基づく新しいNARデコーディングフレームワークを提案する。
特に、NARモデルの性質を活用することで、1つのフォワード計算で複数のサンプルを効率的に得ることができる。
LibriSpeech, Switchboard, AMI, およびWebプレゼンテーションコーパスを対象に行った実験では, NAR-MBRデコーディングが従来のNARデコーディングより優れており,ARデコーディングよりも高速に動作していることが実証された。
関連論文リスト
- From Bits to Rounds: Parallel Decoding with Exploration for Diffusion Language Models [19.97248408121574]
Diffusion Language Models (DLMs) は並列デコードにより高速な推論速度で同等の精度を提供する。
高信頼トークンは無視可能な情報を持ち、それらに厳密に依存することで、各デコードラウンドにおける効果的な進捗を制限する。
本研究では,情報スループットと復号効率を最大化する学習自由復号法であるExplore-Then-Exploit (ETE)を提案する。
論文 参考訳(メタデータ) (2025-11-26T06:38:37Z) - Helping the Weak Makes You Strong: Simple Multi-Task Learning Improves
Non-Autoregressive Translators [35.939982651768666]
NARモデルの確率フレームワークは、ターゲットシーケンスに対する条件付き独立性仮定を必要とする。
本稿では,より情報的な学習信号を提供するための,シンプルでモデルに依存しないマルチタスク学習フレームワークを提案する。
我々の手法は、追加のデコードオーバーヘッドを追加することなく、複数のNARベースラインの精度を一貫して改善することができる。
論文 参考訳(メタデータ) (2022-11-11T09:10:14Z) - Paraformer: Fast and Accurate Parallel Transformer for
Non-autoregressive End-to-End Speech Recognition [62.83832841523525]
そこで我々はParaformerと呼ばれる高速かつ高精度な並列トランスを提案する。
出力トークンの数を正確に予測し、隠れた変数を抽出する。
10倍以上のスピードアップで、最先端のARトランスフォーマーに匹敵するパフォーマンスを実現することができる。
論文 参考訳(メタデータ) (2022-06-16T17:24:14Z) - Non-autoregressive End-to-end Speech Translation with Parallel
Autoregressive Rescoring [83.32560748324667]
本稿では,非自己回帰モデルに基づく効率的なエンドツーエンド音声翻訳(E2E-ST)フレームワークについて述べる。
我々は,共有エンコーダ上にNARデコーダと補助的な浅層ARデコーダを備えた,Orthrosと呼ばれる統一NAR E2E-STフレームワークを提案する。
論文 参考訳(メタデータ) (2021-09-09T16:50:16Z) - Streaming End-to-End ASR based on Blockwise Non-Autoregressive Models [57.20432226304683]
非自己回帰(NAR)モデリングは、音声処理においてますます注目を集めている。
エンドツーエンドのNAR音声認識システムを提案する。
提案手法は低レイテンシ条件下でのオンラインASR認識を改善する。
論文 参考訳(メタデータ) (2021-07-20T11:42:26Z) - Non-Autoregressive Transformer ASR with CTC-Enhanced Decoder Input [54.82369261350497]
CTCモジュールの予測を精算することでターゲットシーケンスを生成するCTC拡張NARトランスを提案する。
実験結果から,Aishell-1およびAishell-2データセットでは,Aishell-1およびAishell-2データセットの絶対CER劣化が0。
論文 参考訳(メタデータ) (2020-10-28T15:00:09Z) - Cross-Thought for Sentence Encoder Pre-training [89.32270059777025]
Cross-Thoughtは、事前トレーニングシーケンスエンコーダに対する新しいアプローチである。
我々は、Transformerベースのシーケンスエンコーダを、多数の短いシーケンスに対してトレーニングする。
質問応答とテキストのエンコーダタスクの実験は、事前学習したエンコーダが最先端のエンコーダより優れていることを示す。
論文 参考訳(メタデータ) (2020-10-07T21:02:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。