論文の概要: Improving Pseudo-label Training For End-to-end Speech Recognition Using Gradient Mask

• arxiv url: http://arxiv.org/abs/2110.04056v1
• Date: Fri, 8 Oct 2021 12:05:25 GMT
• ステータス: 処理完了
• システム内更新日: 2021-10-11 16:52:20.917300
• Title: Improving Pseudo-label Training For End-to-end Speech Recognition Using Gradient Mask
• Title（参考訳）: 勾配マスクを用いたエンドツーエンド音声認識のための擬似ラベル学習の改善
• Authors: Shaoshi Ling, Chen Shen, Meng Cai, Zejun Ma
• Abstract要約: 本稿では,エンド・ツー・エンドの音声認識モデルに対するアイデアを組み合わせるための新しいアプローチを提案する。 余分な損失関数がなければ、グラディエントマスクを使用して擬似ラベルのトレーニング時にモデルを最適化する。 半教師付き実験では、擬似ラベルの学習時のモデル性能を向上させることができる。
• 参考スコア（独自算出の注目度）: 7.807021847783367
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In the recent trend of semi-supervised speech recognition, both self-supervised representation learning and pseudo-labeling have shown promising results. In this paper, we propose a novel approach to combine their ideas for end-to-end speech recognition model. Without any extra loss function, we utilize the Gradient Mask to optimize the model when training on pseudo-label. This method forces the speech recognition model to predict from the masked input to learn strong acoustic representation and make training robust to label noise. In our semi-supervised experiments, the method can improve the model performance when training on pseudo-label and our method achieved competitive results comparing with other semi-supervised approaches on the Librispeech 100 hours experiments.
• Abstract（参考訳）: 半教師付き音声認識の最近のトレンドでは、自己教師付き表現学習と擬似ラベルの両方が有望な結果を示している。 本稿では,そのアイデアをエンドツーエンド音声認識モデルに結合する新しい手法を提案する。 余分な損失関数がなければ、グラディエントマスクを使用して擬似ラベルのトレーニング時にモデルを最適化する。 この方法は,音声認識モデルに対して,マスク入力からの予測を強制し,強い音響表現を学習し,ラベルノイズに対するトレーニングを堅牢にする。 半教師付き実験では、擬似ラベルでのトレーニング時のモデル性能が向上し、librispeech 100時間実験における他の半教師付きアプローチと比較した競合結果が得られる。

関連論文リスト

• Adversarial Representation Learning for Robust Privacy Preservation in Audio [11.409577482625053]
  音響イベント検出システムは、ユーザーまたはその周辺に関する機密情報を不注意に明らかにすることができる。 本稿では,音声記録の表現を学習するための新しい逆学習法を提案する。 提案手法は,プライバシ対策を伴わないベースライン手法と,事前の逆行訓練法とを併用して評価する。
  論文  参考訳（メタデータ） (2023-04-29T08:39:55Z)
• Supervision-Guided Codebooks for Masked Prediction in Speech Pre-training [102.14558233502514]
  自己教師型学習(SSL)における事前学習のマズード予測は,音声認識における顕著な進歩をみせている。 本稿では,自動音声認識(ASR)の性能向上のための2つの教師付きコードブック生成手法を提案する。
  論文  参考訳（メタデータ） (2022-06-21T06:08:30Z)
• Zero-Shot Voice Conditioning for Denoising Diffusion TTS Models [95.97506031821217]
  本研究では,事前学習した拡散音声モデルを用いて,学習中に見つからない新人の声で音声を生成する手法を提案する。 この方法は、対象者からの短い(3秒)サンプルを必要とし、生成は、トレーニングステップなしで、推論時に操縦される。
  論文  参考訳（メタデータ） (2022-06-05T19:45:29Z)
• On monoaural speech enhancement for automatic recognition of real noisy speech using mixture invariant training [33.79711018198589]
  既存の混合不変訓練基準を拡張して、未ペア音声と実雑音データの両方を利用する。 実雑音音声から分離した音声の品質を向上させるためには, 未ペアクリーン音声が不可欠であることがわかった。 提案手法は、処理成果物を軽減するために、処理された信号と処理されていない信号のリミックスも行う。
  論文  参考訳（メタデータ） (2022-05-03T19:37:58Z)
• Wav2Seq: Pre-training Speech-to-Text Encoder-Decoder Models Using Pseudo Languages [58.43299730989809]
  本稿では,音声データに対するエンコーダ・デコーダモデルの両部分を事前学習するための,最初の自己教師型アプローチであるWav2Seqを紹介する。 我々は、コンパクトな離散表現として擬似言語を誘導し、自己教師付き擬似音声認識タスクを定式化する。 このプロセスは独自のものであり、低コストの第2段階のトレーニングとして適用することができる。
  論文  参考訳（メタデータ） (2022-05-02T17:59:02Z)
• Curriculum optimization for low-resource speech recognition [4.803994937990389]
  本稿では,学習事例の順序を最適化する自動カリキュラム学習手法を提案する。 様々な雑音条件下で生音声のスコアリング機能として使用できる圧縮比と呼ばれる新しい難易度尺度を導入する。
  論文  参考訳（メタデータ） (2022-02-17T19:47:50Z)
• Learning with Neighbor Consistency for Noisy Labels [69.83857578836769]
  特徴空間におけるトレーニング例間の類似性を利用した雑音ラベルから学習する手法を提案する。 合成(CIFAR-10, CIFAR-100)とリアル(mini-WebVision, Clothing1M, mini-ImageNet-Red)の両方のノイズを評価するデータセットの評価を行った。
  論文  参考訳（メタデータ） (2022-02-04T15:46:27Z)
• Self-supervised Learning with Random-projection Quantizer for Speech Recognition [51.24368930992091]
  音声認識のためのシンプルで効果的な自己教師型学習手法を提案する。 このアプローチは、離散ラベルの形で、マスキングされた音声信号を予測するモデルを学ぶ。 非ストリーミングモデルを用いた自己教師付き学習を用いて、従来の作業と同じような単語エラー率を達成する。
  論文  参考訳（メタデータ） (2022-02-03T21:29:04Z)
• Streaming end-to-end speech recognition with jointly trained neural feature enhancement [20.86554979122057]
  そこで本研究では,MoCha(Motonic Chunkwise Attention)を用いたストリーミングエンドツーエンド音声認識モデルを提案する。 GAEF(Gradual Application of Enhanced Features)とGREL(Gradual Reduction of Enhanced Loss)の2つのトレーニング戦略を導入する。
  論文  参考訳（メタデータ） (2021-05-04T02:25:41Z)
• Multi-Objective Interpolation Training for Robustness to Label Noise [17.264550056296915]
  標準教師付きコントラスト学習はラベル雑音の存在下で劣化することを示す。 コントラスト学習により学習したロバストな特徴表現を利用する新しいラベルノイズ検出手法を提案する。 合成および実世界のノイズベンチマークの実験は、MOIT/MOIT+が最先端の結果を得ることを示した。
  論文  参考訳（メタデータ） (2020-12-08T15:01:54Z)
• Deep Semi-supervised Knowledge Distillation for Overlapping Cervical Cell Instance Segmentation [54.49894381464853]
  本稿では, ラベル付きデータとラベルなしデータの両方を, 知識蒸留による精度向上に活用することを提案する。 摂動に敏感なサンプルマイニングを用いたマスク誘導型平均教師フレームワークを提案する。 実験の結果,ラベル付きデータのみから学習した教師付き手法と比較して,提案手法は性能を著しく向上することがわかった。
  論文  参考訳（メタデータ） (2020-07-21T13:27:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。