Fugu-MT 論文翻訳(概要): ASR Error Correction using Large Language Models

論文の概要: ASR Error Correction using Large Language Models

arxiv url: http://arxiv.org/abs/2409.09554v1
Date: Sat, 14 Sep 2024 23:33:38 GMT
ステータス: 処理完了
システム内更新日: 2024-09-17 20:17:37.549435
Title: ASR Error Correction using Large Language Models
Title（参考訳）: 大規模言語モデルを用いたASR誤り訂正
Authors: Rao Ma, Mengjie Qian, Mark Gales, Kate Knill,
Abstract要約: 誤り訂正(EC)モデルは、自動音声認識(ASR)転写の精製において重要な役割を果たす。本研究は,多種多様なシナリオにおける誤り訂正のための大規模言語モデル (LLM) の使用について検討する。
参考スコア（独自算出の注目度）: 4.75940708384553
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Error correction (EC) models play a crucial role in refining Automatic Speech Recognition (ASR) transcriptions, enhancing the readability and quality of transcriptions. Without requiring access to the underlying code or model weights, EC can improve performance and provide domain adaptation for black-box ASR systems. This work investigates the use of large language models (LLMs) for error correction across diverse scenarios. 1-best ASR hypotheses are commonly used as the input to EC models. We propose building high-performance EC models using ASR N-best lists which should provide more contextual information for the correction process. Additionally, the generation process of a standard EC model is unrestricted in the sense that any output sequence can be generated. For some scenarios, such as unseen domains, this flexibility may impact performance. To address this, we introduce a constrained decoding approach based on the N-best list or an ASR lattice. Finally, most EC models are trained for a specific ASR system requiring retraining whenever the underlying ASR system is changed. This paper explores the ability of EC models to operate on the output of different ASR systems. This concept is further extended to zero-shot error correction using LLMs, such as ChatGPT. Experiments on three standard datasets demonstrate the efficacy of our proposed methods for both Transducer and attention-based encoder-decoder ASR systems. In addition, the proposed method can serve as an effective method for model ensembling.
Abstract（参考訳）: 誤り訂正(EC)モデルは、自動音声認識(ASR)転写の精製において重要な役割を担い、転写の可読性と品質を高める。基盤となるコードやモデルの重み付けを必要とせずに、ECはパフォーマンスを改善し、ブラックボックスのASRシステムにドメイン適応を提供する。本研究は,多種多様なシナリオにおける誤り訂正のための大規模言語モデル (LLM) の使用について検討する。 1-best ASR仮説はECモデルの入力として一般的に用いられる。本稿では, ASR N-best List を用いた高性能ECモデルの構築を提案する。さらに、任意の出力シーケンスを生成することができるという意味で、標準ECモデルの生成プロセスは制限されない。目に見えないドメインのようないくつかのシナリオでは、この柔軟性はパフォーマンスに影響を与えます。そこで我々は,N-bestリストやASR格子に基づく制約付き復号手法を提案する。最後に、ほとんどのECモデルは、基礎となるASRシステムを変更するたびに再トレーニングを必要とする特定のASRシステムのために訓練される。本稿では,異なるASRシステムの出力をECモデルで操作する機能について検討する。この概念は、ChatGPT などの LLM を用いたゼロショット誤り訂正にも拡張されている。 3つの標準データセットを用いた実験により,Transducer と attention-based encoder-decoder ASR システムにおける提案手法の有効性が示された。また,提案手法はモデルアンサンブルの効果的な方法として有効である。

関連論文リスト

Failing Forward: Improving Generative Error Correction for ASR with Synthetic Data and Retrieval Augmentation [73.9145653659403]
生成誤差補正モデルは、トレーニング中に発生する特定の種類のエラーを超えて一般化することが困難であることを示す。 DARAGは、ドメイン内(ID)およびOODシナリオにおけるASRのためのGCCを改善するために設計された新しいアプローチである。私たちのアプローチはシンプルでスケーラブルで、ドメインと言語に依存しません。
論文参考訳（メタデータ） (2024-10-17T04:00:29Z)
Towards interfacing large language models with ASR systems using confidence measures and prompting [54.39667883394458]
本研究では,大言語モデル(LLM)を用いたASRテキストのポストホック修正について検討する。精度の高い転写文に誤りを導入することを避けるため,信頼度に基づくフィルタリング手法を提案する。その結果,競争力の低いASRシステムの性能が向上することが示唆された。
論文参考訳（メタデータ） (2024-07-31T08:00:41Z)
Crossmodal ASR Error Correction with Discrete Speech Units [16.58209270191005]
ASR誤り訂正(AEC)に対するASR後処理手法を提案する。我々は、事前学習と微調整の戦略を探求し、ASRドメインの不一致現象を明らかにする。そこで本稿では,AEC品質向上のための単語埋め込みの整合・強化を目的とした,離散音声ユニットの組込みを提案する。
論文参考訳（メタデータ） (2024-05-26T19:58:38Z)
Generative error correction for code-switching speech recognition using large language models [49.06203730433107]
コードスイッチング(英: Code-switching, CS)とは、2つ以上の言語が同じ文内に混在する現象である。本稿では,大規模言語モデル (LLM) と ASR が生成する仮説のリストを利用して,CS 問題に対処することを提案する。
論文参考訳（メタデータ） (2023-10-17T14:49:48Z)
Can Generative Large Language Models Perform ASR Error Correction? [16.246481696611117]
生成型大規模言語モデル(LLM)は、幅広い自然言語処理タスクに適用されている。本稿では, ASR 誤り訂正のための生成 LLM である ChatGPT を用いて検討する。実験により、このジェネレーティブLLMアプローチは、2つの異なる最先端のASRアーキテクチャの性能向上をもたらすことが示された。
論文参考訳（メタデータ） (2023-07-09T13:38:25Z)
Adapting an Unadaptable ASR System [40.402050390096456]
我々は、最近リリースされたOpenAI Whisper ASRを、適応手法を評価するための大規模ASRシステムの例と考えている。モデルへのアクセスを必要としないため、誤り訂正に基づくアプローチが採用されている。次に、2つの異なる次元におけるシステムの一般化能力を評価する。
論文参考訳（メタデータ） (2023-06-01T23:54:11Z)
Error Correction in ASR using Sequence-to-Sequence Models [32.41875780785648]
自動音声認識における後編集では、ASRシステムによって生成された共通および系統的な誤りを自動的に修正する必要がある。本稿では,事前学習型シーケンス・ツー・シーケンス・モデルであるBARTを用いて,デノナイジングモデルとして機能することを提案する。アクセント付き音声データによる実験結果から,ASRの誤りを効果的に修正できることが示唆された。
論文参考訳（メタデータ） (2022-02-02T17:32:59Z)
Attention-based Multi-hypothesis Fusion for Speech Summarization [83.04957603852571]
音声認識(ASR)とテキスト要約(TS)を組み合わせることで、音声要約を実現することができる ASR誤差はカスケード法における出力要約の品質に直接影響する。本稿では、ASRの誤りに対して頑健なカスケード音声要約モデルを提案し、ASRが生成した複数の仮説を利用して、ASRの誤りが要約に与える影響を緩和する。
論文参考訳（メタデータ） (2021-11-16T03:00:29Z)
Pretraining Techniques for Sequence-to-Sequence Voice Conversion [57.65753150356411]
シークエンス・トゥ・シークエンス(seq2seq)音声変換(VC)モデルは、韻律を変換する能力によって魅力的である。我々は,大規模コーパスが容易に利用できる他の音声処理タスク(通常,テキスト音声(TTS)と自動音声認識(ASR))から知識を伝達することを提案する。このような事前訓練されたASRまたはTSモデルパラメータを持つVCモデルは、高忠実で高知能な変換可能な音声に対して効果的な隠れ表現を生成することができると論じる。
論文参考訳（メタデータ） (2020-08-07T11:02:07Z)
ASR Error Correction and Domain Adaptation Using Machine Translation [32.27379508770736]
機械翻訳によるASR誤り訂正のための領域適応手法を提案する。 Google ASR出力における単語誤り率の絶対的改善とBLEUスコアの4点絶対的改善を観察した。
論文参考訳（メタデータ） (2020-03-13T20:05:38Z)
Joint Contextual Modeling for ASR Correction and Language Understanding [60.230013453699975]
言語理解(LU)と協調してASR出力の文脈的言語補正を行うマルチタスクニューラルアプローチを提案する。そこで本研究では,市販のASRおよびLUシステムの誤差率を,少量のドメイン内データを用いてトレーニングしたジョイントモデルと比較して14%削減できることを示した。
論文参考訳（メタデータ） (2020-01-28T22:09:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。