論文の概要: VietASR: Achieving Industry-level Vietnamese ASR with 50-hour labeled data and Large-Scale Speech Pretraining

• arxiv url: http://arxiv.org/abs/2505.21527v2
• Date: Thu, 29 May 2025 12:55:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-30 13:10:25.763398
• Title: VietASR: Achieving Industry-level Vietnamese ASR with 50-hour labeled data and Large-Scale Speech Pretraining
• Title（参考訳）: VietASR:50時間ラベル付きデータと大規模音声プレトレーニングによる産業レベルのベトナムASRの実現
• Authors: Jianheng Zhuo, Yifan Yang, Yiwen Shao, Yong Xu, Dong Yu, Kai Yu, Xie Chen,
• Abstract要約: 大量のラベル付きデータとラベル付きデータの小さなセットを活用する新しいASRトレーニングパイプラインであるVietaSRを提案する。 70,000時間のラベル付きデータに対する事前トレーニングと,50時間ラベル付きデータに対する微調整により,軽量だが強力なASRモデルが得られることを示す。 私たちのコードとモデルは、低リソースのASRの研究を促進するためにオープンソース化されます。
• 参考スコア（独自算出の注目度）: 41.555790191562224
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Automatic speech recognition (ASR) has made remarkable progress but heavily relies on large-scale labeled data, which is scarce for low-resource languages like Vietnamese. While existing systems such as Whisper, USM, and MMS achieve promising performance, their efficacy remains inadequate in terms of training costs, latency, and accessibility. To address these issues, we propose VietASR, a novel ASR training pipeline that leverages vast amounts of unlabeled data and a small set of labeled data. Through multi-iteration ASR-biased self-supervised learning on a large-scale unlabeled dataset, VietASR offers a cost-effective and practical solution for enhancing ASR performance. Experiments demonstrate that pre-training on 70,000-hour unlabeled data and fine-tuning on merely 50-hour labeled data yield a lightweight but powerful ASR model. It outperforms Whisper Large-v3 and commercial ASR systems on real-world data. Our code and models will be open-sourced to facilitate research in low-resource ASR.
• Abstract（参考訳）: 自動音声認識(ASR)は目覚ましい進歩を遂げているが、ベトナムのような低リソース言語では不十分な大規模ラベル付きデータに大きく依存している。 Whisper、USM、MMSといった既存のシステムは有望な性能を達成するが、トレーニングコスト、レイテンシ、アクセシビリティの点で効果は不十分である。 これらの問題に対処するために、大量のラベル付きデータとラベル付きデータの小さなセットを活用する新しいASRトレーニングパイプラインであるVietASRを提案する。 VietASRは、大規模なラベル付きデータセット上でのASRバイアス付き自己教師型学習を通じて、ASR性能を向上させるための費用対効果と実用的なソリューションを提供する。 実験により、70,000時間の未ラベルデータに対する事前トレーニングと、わずか50時間のラベル付きデータによる微調整により、軽量だが強力なASRモデルが得られることが示された。 Whisper Large-v3 と商用の ASR システムを実世界のデータで上回っている。 私たちのコードとモデルは、低リソースのASRの研究を促進するためにオープンソース化されます。

関連論文リスト

• Dynamic Data Pruning for Automatic Speech Recognition [58.95758272440217]
  ASR(DDP-ASR)のダイナミック・データ・プルーニング(Dynamic Data Pruning for ASR)を導入し,音声関連データセットに特化して微細なプルーニングの粒度を提供する。 実験の結果,DDP-ASRは最大1.6倍のトレーニング時間を節約できることがわかった。
  論文  参考訳（メタデータ） (2024-06-26T14:17:36Z)
• Enabling ASR for Low-Resource Languages: A Comprehensive Dataset Creation Approach [0.6445605125467574]
  本研究では,オーディオブックからASRトレーニングデータセットを生成するための新しいパイプラインを提案する。 これらのオーディオブックの共通構造は、音声セグメントの幅が広いため、ユニークな課題である。 本稿では,音声を対応するテキストと効果的に整合させ,それをASR訓練に適した長さに分割する手法を提案する。
  論文  参考訳（メタデータ） (2024-06-03T15:38:40Z)
• Advancing African-Accented Speech Recognition: Epistemic Uncertainty-Driven Data Selection for Generalizable ASR Models [2.4654745083407175]
  本稿では,アノテーションプロセスの自動化に不確実性を利用するマルチラウンド適応プロセスを提案する。 この手法はデータアノテーションを合理化し、モデルの不確実性に最も寄与するデータサンプルを戦略的に選択する。 以上の結果から,従来のベースラインよりも平均45%少ないデータを必要とする一方で,WERの相対的改善率は27%であることが示唆された。
  論文  参考訳（メタデータ） (2023-06-03T13:11:37Z)
• Auto-AVSR: Audio-Visual Speech Recognition with Automatic Labels [100.43280310123784]
  トレーニングセットのサイズを増大させるために,未ラベルデータセットの自動書き起こしの使用について検討した。 近年の文献的傾向であるトレーニングセットのサイズが大きくなると、ノイズのある書き起こしを用いたにもかかわらずWERが減少することが実証された。 提案手法は,RS2 と LRS3 の AV-ASR 上での最先端性能を実現する。
  論文  参考訳（メタデータ） (2023-03-25T00:37:34Z)
• Data Augmentation for Low-Resource Quechua ASR Improvement [2.260916274164351]
  ディープラーニングの手法により、英語のASRでは単語エラー率が5%未満のシステムをデプロイできるようになった。 いわゆる低リソース言語では,既存のリソースに基づいて新たなリソースを作成する手法が検討されている。 本稿では,低リソースおよび凝集度言語に対するASRモデルの結果を改善するためのデータ拡張手法について述べる。
  論文  参考訳（メタデータ） (2022-07-14T12:49:15Z)
• BigSSL: Exploring the Frontier of Large-Scale Semi-Supervised Learning for Automatic Speech Recognition [126.5605160882849]
  事前学習,自己学習,モデルサイズのスケールアップの組み合わせによって,データの効率が大幅に向上することがわかった。 本稿では,大規模な下流タスクに対して,事前学習モデルと自己学習モデルを使用することによって得られる普遍的なメリットについて報告する。
  論文  参考訳（メタデータ） (2021-09-27T17:59:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。