論文の概要: Improving Frame-level Classifier for Word Timings with Non-peaky CTC in
End-to-End Automatic Speech Recognition
- arxiv url: http://arxiv.org/abs/2306.07949v1
- Date: Fri, 9 Jun 2023 03:36:00 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-14 12:23:21.349025
- Title: Improving Frame-level Classifier for Word Timings with Non-peaky CTC in
End-to-End Automatic Speech Recognition
- Title（参考訳）: エンドツーエンド音声認識における非ピークCTCによる単語タイミングのフレームレベル分類法の改善
- Authors: Xianzhao Chen, Yist Y. Lin, Kang Wang, Yi He, Zejun Ma
- Abstract要約: E2Eシステムにおける単語タイミングのフレームレベル分類器の改善には,コネクショナリストの時間的分類損失にラベル前処理を導入する。
中国内部のコーパスでは、単語タイミング精度の93.0%/90.22%のハイブリッドシステムと比較して95.68%/94.18%を達成した。
- 参考スコア（独自算出の注目度）: 16.139235668126318
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: End-to-end (E2E) systems have shown comparable performance to hybrid systems
for automatic speech recognition (ASR). Word timings, as a by-product of ASR,
are essential in many applications, especially for subtitling and
computer-aided pronunciation training. In this paper, we improve the
frame-level classifier for word timings in E2E system by introducing label
priors in connectionist temporal classification (CTC) loss, which is adopted
from prior works, and combining low-level Mel-scale filter banks with
high-level ASR encoder output as input feature. On the internal Chinese corpus,
the proposed method achieves 95.68%/94.18% compared to the hybrid system
93.0%/90.22% on the word timing accuracy metrics. It also surpass a previous
E2E approach with an absolute increase of 4.80%/8.02% on the metrics on 7
languages. In addition, we further improve word timing accuracy by delaying CTC
peaks with frame-wise knowledge distillation, though only experimenting on
LibriSpeech.
- Abstract（参考訳）: エンドツーエンド(E2E)システムは、音声認識のためのハイブリッドシステムと同等の性能を示している。
単語のタイミングは、ASRの副産物として、特にサブタイリングやコンピュータ支援による発音訓練に不可欠である。
本稿では,e2eシステムにおける単語タイミングのフレームレベル分類法を改良し,先行研究から採用したコネクショニスト時間分類(ctc)損失のラベルプリエントを導入し,低レベルメルスケールフィルタバンクと高レベルasrエンコーダ出力を入力特徴として組み合わせた。
中国内部のコーパスでは、単語タイミング精度の93.0%/90.22%のハイブリッドシステムと比較して95.68%/94.18%を達成した。
また、7つの言語におけるメトリクスの4.80%/8.02%を絶対的に増加させ、以前のE2Eアプローチを超えている。
さらに,CTCピークをフレーム単位の知識蒸留で遅延させることにより,単語のタイミング精度をさらに向上する。
関連論文リスト
- Accelerating Transducers through Adjacent Token Merging [33.07184218085399]
本稿では,隣接するトークンと鍵値間の類似度の高いスコアを徐々に組み合わせた新しい手法,Adjacent Token Merging (A-ToMe)を提案する。
LibriSpeechの実験により,トークンの57%を削減し,GPU上での推論速度を70%向上できることがわかった。
論文 参考訳（メタデータ） (2023-06-28T08:33:13Z) - Audio-Visual Efficient Conformer for Robust Speech Recognition [91.3755431537592]
本稿では,近年提案されている高能率コンバータ接続性時間分類アーキテクチャの雑音を,音声と視覚の両方を処理して改善することを提案する。
実験の結果,音声と視覚のモダリティを用いることで,環境騒音の存在下での音声の認識が向上し,トレーニングが大幅に加速し,WERが4倍のトレーニングステップで低下することが確認された。
論文 参考訳（メタデータ） (2023-01-04T05:36:56Z) - Unified End-to-End Speech Recognition and Endpointing for Fast and
Efficient Speech Systems [17.160006765475988]
本稿では,単一エンドツーエンド (E2E) モデルを用いて, ASR と EP タスクを協調訓練する手法を提案する。
我々は、EPにオーディオフレームを直接消費するか、ASRモデルから低レベルの潜在表現を消費するよう訓練する「スウィッチ」接続を導入する。
これにより、推論中にフレームフィルタリングを低コストで行うことができる単一のE2Eモデルが得られる。
論文 参考訳（メタデータ） (2022-11-01T23:43:15Z) - Contextual Density Ratio for Language Model Biasing of Sequence to
Sequence ASR Systems [2.4909170697740963]
本稿では,コンテキスト認識型E2Eモデルのトレーニングと,名前付きエンティティに言語モデルを適用するためのコンテキスト密度比アプローチを提案する。
提案手法は,テストセット全体の認識精度を低下させることなく,E2Eベースライン上の名前を46.5%向上させる。
論文 参考訳（メタデータ） (2022-06-29T13:12:46Z) - End-to-end contextual asr based on posterior distribution adaptation for
hybrid ctc/attention system [61.148549738631814]
エンドツーエンド(E2E)音声認識アーキテクチャは、従来の音声認識システムのすべてのコンポーネントを単一のモデルに組み立てる。
これはASRシステムを単純化するが、文脈的ASRの欠点を導入している: E2Eモデルは、頻繁な固有名詞を含む発話に対して、より悪い性能を持つ。
本稿では,文脈的単語認識能力を向上させるために,文脈バイアスアテンション(CBA)モジュールをアテンションベースエンコーダデコーダ(AED)モデルに追加することを提案する。
論文 参考訳（メタデータ） (2022-02-18T03:26:02Z) - Advancing CTC-CRF Based End-to-End Speech Recognition with Wordpieces
and Conformers [33.725831884078744]
提案したCTC-CRFフレームワークは、ハイブリッドアプローチのデータ効率とエンドツーエンドアプローチの単純さを継承する。
本稿では,最近開発されたワードピースモデリングユニットとコンフォーマーニューラルネットワークをCTC-CRFに適用する手法について検討する。
論文 参考訳（メタデータ） (2021-07-07T04:12:06Z) - Dynamic Acoustic Unit Augmentation With BPE-Dropout for Low-Resource
End-to-End Speech Recognition [62.94773371761236]
我々は、OOVレートの高い低リソースセットアップで効果的なエンドツーエンドASRシステムを構築することを検討します。
本稿では,BPE-dropout法に基づく動的音響ユニット拡張法を提案する。
我々の単言語トルココンフォーマーは22.2%の文字誤り率(CER)と38.9%の単語誤り率(WER)の競争結果を確立した。
論文 参考訳（メタデータ） (2021-03-12T10:10:13Z) - Orthros: Non-autoregressive End-to-end Speech Translation with
Dual-decoder [64.55176104620848]
NARと自己回帰(AR)デコーダの両方を共有音声エンコーダで共同で訓練する新しいNAR E2E-STフレームワークOrthrosを提案する。
後者は、前者から生成される様々な長の候補間のより良い翻訳を選択するために使用され、これは、無視できるオーバーヘッドを持つ大きな長のビームの有効性を劇的に向上させる。
4つのベンチマーク実験により、競合翻訳品質を維持しつつ、推論速度を向上させる手法の有効性が示された。
論文 参考訳（メタデータ） (2020-10-25T06:35:30Z) - You Do Not Need More Data: Improving End-To-End Speech Recognition by
Text-To-Speech Data Augmentation [59.31769998728787]
我々は、ASRトレーニングデータベース上にTSシステムを構築し、合成音声でデータを拡張し、認識モデルを訓練する。
テストクリーンはWER 4.3%,他のテストクリーンは13.5%で、このシステムはLibriSpeechトレインクリーン100で訓練されたエンドツーエンドASRの競争結果を確立している。
論文 参考訳（メタデータ） (2020-05-14T17:24:57Z) - End-to-End Automatic Speech Recognition Integrated With CTC-Based Voice
Activity Detection [48.80449801938696]
本稿では,音声活動検出機能とエンドツーエンドの自動音声認識を統合する。
我々は,コネクショニストの時間的分類(CTC)と,同期/アテンションの拡張に焦点を当てた。
簡単なしきい値を用いた音声区間検出のためのキューとしてラベルを用いる。
論文 参考訳（メタデータ） (2020-02-03T03:36:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。