論文の概要: Minimising Biasing Word Errors for Contextual ASR with the Tree-Constrained Pointer Generator

• arxiv url: http://arxiv.org/abs/2205.09058v1
• Date: Wed, 18 May 2022 16:40:50 GMT
• ステータス: 処理完了
• システム内更新日: 2022-05-19 13:24:34.149228
• Title: Minimising Biasing Word Errors for Contextual ASR with the Tree-Constrained Pointer Generator
• Title（参考訳）: tree-constrained pointer generatorを用いた文脈asrにおけるバイアス単語誤りの最小化
• Authors: Guangzhi Sun, Chao Zhang, Philip C Woodland
• Abstract要約: 高評価長尾語における音声認識誤りの低減には文脈知識が不可欠である。 本稿では,木制約付きポインタジェネレータ(TCPGen)コンポーネントを提案する。
• 参考スコア（独自算出の注目度）: 19.372248692745167
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Contextual knowledge is essential for reducing speech recognition errors on high-valued long-tail words. This paper proposes a novel tree-constrained pointer generator (TCPGen) component that enables end-to-end ASR models to bias towards a list of long-tail words obtained using external contextual information. With only a small overhead in memory use and computation cost, TCPGen can structure thousands of biasing words efficiently into a symbolic prefix-tree and creates a neural shortcut between the tree and the final ASR output to facilitate the recognition of the biasing words. To enhance TCPGen, we further propose a novel minimum biasing word error (MBWE) loss that directly optimises biasing word errors during training, along with a biasing-word-driven language model discounting (BLMD) method during the test. All contextual ASR systems were evaluated on the public Librispeech audiobook corpus and the data from the dialogue state tracking challenges (DSTC) with the biasing lists extracted from the dialogue-system ontology. Consistent word error rate (WER) reductions were achieved with TCPGen, which were particularly significant on the biasing words with around 40\% relative reductions in the recognition error rates. MBWE and BLMD further improved the effectiveness of TCPGen and achieved more significant WER reductions on the biasing words. TCPGen also achieved zero-shot learning of words not in the audio training set with large WER reductions on the out-of-vocabulary words in the biasing list.
• Abstract（参考訳）: 高評価長尾語における音声認識誤りの低減には文脈知識が不可欠である。 本稿では,木制約付きポインタ生成器(TCPGen)コンポーネントを提案する。このコンポーネントは,外部コンテキスト情報を用いて得られる長い単語のリストに対して,エンドツーエンドのASRモデルにバイアスを与える。 メモリ使用と計算コストのオーバーヘッドは少ないが、TCPGenは数千のバイアスワードをシンボルプレフィックスツリーに効率的に構造化し、ツリーと最終的なASR出力の間にニューラルショートカットを作成し、バイアスワードの認識を容易にする。 TCPGenを向上させるために,学習中の単語誤りを直接最適化する最小バイアス語誤り(MBWE)と,テスト中の言語モデル割引(BLMD)手法を提案する。 全ての文脈asrシステムは、公開librispeechオーディオブックコーパスと対話状態追跡課題(dstc)のデータを対話システムオントロジーから抽出したバイアスリストを用いて評価した。 tcpgenでは一貫性のある単語誤り率 (wer) が達成され, 認識誤り率の約40-%の偏りのある単語では特に有意であった。 MBWEとBLMDはTCPGenの有効性をさらに改善し、より重要なWER削減を実現した。 TCPGenはまた、バイアスリストの語彙外単語に対する大きなWER削減を伴うオーディオトレーニングセットにない単語のゼロショット学習も達成した。

関連論文リスト

• Contextualized End-to-end Automatic Speech Recognition with Intermediate Biasing Loss [44.94458898538114]
  エンコーダ中間層における補助的なタスクとして明示的なバイアス損失を使用することで、テキストトークンやオーディオフレームを望ましい目的と整合させることができる。 提案する中間バイアス損失は,ネットワークにより規則化と文脈化をもたらす。
  論文  参考訳（メタデータ） (2024-06-23T14:22:59Z)
• Text Injection for Neural Contextual Biasing [57.589903308622745]
  本研究では文脈テキストインジェクション(CTI)を提案する。 1000億のテキストを持つCTIは、強い神経バイアスモデルから43.3%の相対的なWER削減を達成することができる。
  論文  参考訳（メタデータ） (2024-06-05T04:20:17Z)
• HyPoradise: An Open Baseline for Generative Speech Recognition with Large Language Models [81.56455625624041]
  ASRの誤り訂正に外部の大規模言語モデル(LLM)を利用する最初のオープンソースベンチマークを導入する。 提案したベンチマークには、334,000組以上のN-best仮説を含む新しいデータセットHyPoradise (HP)が含まれている。 合理的なプロンプトと生成能力を持つLLMは、N-bestリストに欠けているトークンを修正できる。
  論文  参考訳（メタデータ） (2023-09-27T14:44:10Z)
• SpellMapper: A non-autoregressive neural spellchecker for ASR customization with candidate retrieval based on n-gram mappings [76.87664008338317]
  文脈スペル補正モデルは、音声認識を改善するために浅い融合に代わるものである。 ミススペルn-gramマッピングに基づく候補探索のための新しいアルゴリズムを提案する。 Spoken Wikipediaの実験では、ベースラインのASRシステムに比べて21.4%のワードエラー率の改善が見られた。
  論文  参考訳（メタデータ） (2023-06-04T10:00:12Z)
• Contextualized End-to-End Speech Recognition with Contextual Phrase Prediction Network [14.115294331065318]
  本稿では,注目に基づくディープバイアス手法のための文脈的フレーズ予測ネットワークを提案する。 このネットワークは、文脈埋め込みを用いて発話中の文脈句を予測し、バイアス損失を計算し、文脈化されたモデルの訓練を支援する。 提案手法は,様々なエンドツーエンド音声認識モデルにおいて,単語誤り率 (WER) の低減を実現した。
  論文  参考訳（メタデータ） (2023-05-21T16:08:04Z)
• Tree-constrained Pointer Generator with Graph Neural Network Encodings for Contextual Speech Recognition [19.372248692745167]
  本稿では,木制約ポインタジェネレータ (TCPGen) コンポーネントにおけるグラフニューラルネットワーク (GNN) のエンド・ツー・エンドコンテキスト ASR への利用を提案する。 GNNエンコーディングのTCPGenは、元のTCPGenと比較して、バイアスのある単語のWERを15%削減した。
  論文  参考訳（メタデータ） (2022-07-02T15:12:18Z)
• Short-Term Word-Learning in a Dynamically Changing Environment [63.025297637716534]
  本稿では、単語/フレーズメモリと、このメモリにアクセスして単語やフレーズを正しく認識するためのメカニズムを用いて、エンドツーエンドのASRシステムを補完する方法を示す。 誤報がわずかに増加しただけで, 単語の検出速度が大幅に向上した。
  論文  参考訳（メタデータ） (2022-03-29T10:05:39Z)
• Tree-constrained Pointer Generator for End-to-end Contextual Speech Recognition [16.160767678589895]
  TCPGenは、アテンションベースのエンコーダデコーダとトランスデューサエンドツーエンドのASRモデルの両方に偏りのある単語のリストのような知識を組み込む。 TCPGenは、バイアスワードを効率的なプレフィックスツリーに構造化し、そのシンボル入力として機能し、デコード中のバイアスワードの認識を容易にするニューラルネットワークショートカットを生成する。
  論文  参考訳（メタデータ） (2021-09-01T21:41:59Z)
• Joint Contextual Modeling for ASR Correction and Language Understanding [60.230013453699975]
  言語理解(LU)と協調してASR出力の文脈的言語補正を行うマルチタスクニューラルアプローチを提案する。 そこで本研究では,市販のASRおよびLUシステムの誤差率を,少量のドメイン内データを用いてトレーニングしたジョイントモデルと比較して14%削減できることを示した。
  論文  参考訳（メタデータ） (2020-01-28T22:09:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。