論文の概要: Towards Unsupervised Speech Recognition Without Pronunciation Models

• arxiv url: http://arxiv.org/abs/2406.08380v1
• Date: Wed, 12 Jun 2024 16:30:58 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-13 15:57:07.894716
• Title: Towards Unsupervised Speech Recognition Without Pronunciation Models
• Title（参考訳）: 発音モデルのない教師なし音声認識に向けて
• Authors: Junrui Ni, Liming Wang, Yang Zhang, Kaizhi Qian, Heting Gao, Mark Hasegawa-Johnson, Chang D. Yoo,
• Abstract要約: ほとんどの言語では、音声認識システムを効果的に訓練するのに十分なペア音声とテキストデータがない。 本稿では、教師なしASRシステムを開発するために、音素レキシコンへの依存を除去することを提案する。 音声合成とテキスト・テキスト・マスクによるトークン埋込から教師なし音声認識が実現可能であることを実験的に実証した。
• 参考スコア（独自算出の注目度）: 57.222729245842054
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recent advancements in supervised automatic speech recognition (ASR) have achieved remarkable performance, largely due to the growing availability of large transcribed speech corpora. However, most languages lack sufficient paired speech and text data to effectively train these systems. In this article, we tackle the challenge of developing ASR systems without paired speech and text corpora by proposing the removal of reliance on a phoneme lexicon. We explore a new research direction: word-level unsupervised ASR. Using a curated speech corpus containing only high-frequency English words, our system achieves a word error rate of nearly 20% without parallel transcripts or oracle word boundaries. Furthermore, we experimentally demonstrate that an unsupervised speech recognizer can emerge from joint speech-to-speech and text-to-text masked token-infilling. This innovative model surpasses the performance of previous unsupervised ASR models trained with direct distribution matching.
• Abstract（参考訳）: 教師付き自動音声認識(ASR)の最近の進歩は、大文字起こし音声コーパスの増大により顕著な成果を上げている。 しかし、ほとんどの言語はこれらのシステムを効果的に訓練するのに十分なペア音声とテキストデータを持っていない。 本稿では,音声レキシコンへの依存の除去を提案することで,ペア音声とテキストコーパスを使わずにASRシステムを開発するという課題に取り組む。 我々は,単語レベルの非教師付きASRという新たな研究方向を探究する。 本システムでは, 高頻度の英単語のみを含むキュレート音声コーパスを用いて, 単語誤り率を20%近く向上させる。 さらに、教師なし音声認識器は、共同音声合成とテキスト・テキスト・マスキングによるトークン入力から生じることを実験的に実証した。 この革新的なモデルは、直接分布マッチングで訓練された以前の教師なしASRモデルの性能を上回る。

関連論文リスト

• XLS-R fine-tuning on noisy word boundaries for unsupervised speech segmentation into words [13.783996617841467]
  XLS-Rモデルを微調整し、上位層音声分割システムによって生成された単語境界を予測する。 我々のシステムは、ゼロショット方式で微調整中に目に見えない言語から音声を分割することができる。
  論文  参考訳（メタデータ） (2023-10-08T17:05:00Z)
• ContextSpeech: Expressive and Efficient Text-to-Speech for Paragraph Reading [65.88161811719353]
  本研究は、軽量で効果的なテキスト音声合成システムであるContextSpeechを開発する。 まず,グローバルテキストと音声コンテキストを文エンコーディングに組み込むメモリキャッシュ再帰機構を設計する。 我々は,グローバルな文脈拡張の範囲を広げるため,階層的に構造化されたテキストセマンティクスを構築した。 実験の結果,ContextSpeechは段落読解における音質と韻律を競争モデル効率で著しく改善することがわかった。
  論文  参考訳（メタデータ） (2023-07-03T06:55:03Z)
• Introducing Semantics into Speech Encoders [91.37001512418111]
  本研究では,大言語モデルからの意味情報をラベル付き音声書き起こしのない自己教師付き音声エンコーダに組み込む教師なしの手法を提案する。 提案手法は,100時間以上のラベル付き音声書き起こしにおける教師あり手法と類似した性能を実現する。
  論文  参考訳（メタデータ） (2022-11-15T18:44:28Z)
• Evaluating context-invariance in unsupervised speech representations [15.67794428589585]
  現在のベンチマークでは文脈不変性は測定されていない。 我々は文脈不変性を測定するZeroSpeech ABXベンチマークの新バージョンを開発する。 表現の文脈依存性は単語レベルの表現の安定性の予測であることを示す。
  論文  参考訳（メタデータ） (2022-10-27T21:15:49Z)
• Unsupervised Text-to-Speech Synthesis by Unsupervised Automatic Speech Recognition [60.84668086976436]
  教師なし音声合成システム(TTS)は、言語中の任意の文章に対応する音声波形を生成することを学習する。 本稿では、教師なし自動音声認識(ASR)の最近の進歩を活用して、教師なしTSシステムを提案する。 教師なしシステムでは、7つの言語で約10～20時間の音声で教師付きシステムに匹敵する性能を達成できる。
  論文  参考訳（メタデータ） (2022-03-29T17:57:53Z)
• Comparing Supervised Models And Learned Speech Representations For Classifying Intelligibility Of Disordered Speech On Selected Phrases [11.3463024120429]
  提案手法は,選択したフレーズに対して,混乱した音声の理解度を分類するために,異なる深層学習手法を開発し,比較する。 各種自己申告障害を有する661人の話者から29の単語やフレーズを発話するサンプルを収集した。
  論文  参考訳（メタデータ） (2021-07-08T17:24:25Z)
• Instant One-Shot Word-Learning for Context-Specific Neural Sequence-to-Sequence Speech Recognition [62.997667081978825]
  本稿では、単語/フレーズメモリと、このメモリにアクセスして単語やフレーズを正しく認識する機構を備えたエンドツーエンドのASRシステムを提案する。 本稿では,この機構により,これまで認識できなかった単語の85%以上を認識できることを示す。
  論文  参考訳（メタデータ） (2021-07-05T21:08:34Z)
• Unsupervised Automatic Speech Recognition: A Review [2.6212127510234797]
  研究文献をレビューし、完全に教師なしのASRにつながる可能性のあるモデルとアイデアを特定します。 本研究の目的は,音声データのみから学習できることの限界を特定し,音声認識の最小要件を理解することである。
  論文  参考訳（メタデータ） (2021-06-09T08:33:20Z)
• Dynamic Acoustic Unit Augmentation With BPE-Dropout for Low-Resource End-to-End Speech Recognition [62.94773371761236]
  我々は、OOVレートの高い低リソースセットアップで効果的なエンドツーエンドASRシステムを構築することを検討します。 本稿では,BPE-dropout法に基づく動的音響ユニット拡張法を提案する。 我々の単言語トルココンフォーマーは22.2%の文字誤り率(CER)と38.9%の単語誤り率(WER)の競争結果を確立した。
  論文  参考訳（メタデータ） (2021-03-12T10:10:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。