論文の概要: Learning New Words from Unlabeled Test Data in Automatic Speech Recognition
- arxiv url: http://arxiv.org/abs/2609.28877v1
- Date: Thu, 24 Sep 2026 00:54:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-25 21:10:09.623349
- Title: Learning New Words from Unlabeled Test Data in Automatic Speech Recognition
- Title(参考訳): 音声認識におけるラベルなしテストデータから新しい単語を学習する
- Abstract要約: 本稿では、テスト時にラベルのないテストデータから新しい単語の文脈表現と綴りを学習する類似の能力をASRに与えることを提案する。
凍結したCTC音響モデルはスペルを提供し、凍結した言語モデルは語彙外単語検出の文脈的証拠を提供する。
実験の結果、OOVの文字誤り率の相対的な低下は、LibriSpeechで14.97%、変形性音声アクセシビリティー・プロジェクトで6.67%となっている。
- 参考スコア(独自算出の注目度): 29.265805122975987
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: New words are invented every day. A human listener can learn a new word by hearing it clearly once and inferring its usage from sentence context. This paper proposes granting ASR a similar ability to learn the contextual representations and spellings of new words from unlabeled test data at test time. A frozen CTC acoustic model provides spellings, a frozen language model provides contextual evidence for out-of-vocabulary (OOV) word detection, and an adaptation module expands the vocabulary by learning the lexical token representations with distributions over CTC-generated candidates. The spelling model of each token is optimized by minimizing a Kullback-Leibler divergence (KLD) objective. We demonstrate that the CTC-weighted language model log likelihood ratio can be interpreted as the KLD between the unknown correct ASR and the unsupervised learned ASR, and that, using a Pinsker bound, the square root of KLD can be interpreted as an upper bound on the total variation distance between the true and estimated spelling of the unknown word. Experiments show relative OOV character-error-rate reductions of up to 14.97% on LibriSpeech and 6.67% on dysarthric Speech Accessibility Project data for recurring OOV words, relative to the corresponding rescoring system.
- Abstract(参考訳): 新しい言葉は毎日発明される。
人間のリスナーは、その単語を1度だけ明瞭に聴き、その用法を文文脈から推測することで、新しい単語を学習することができる。
本稿では、テスト時にラベルのないテストデータから新しい単語の文脈表現と綴りを学習する類似の能力をASRに与えることを提案する。
凍結したCTC音響モデルは綴りを提供し、凍結した言語モデルは、語彙外単語検出(OOV)の文脈的エビデンスを提供し、適応モジュールは、CTC生成候補に分布した語彙トークン表現を学習することによって語彙を拡張する。
各トークンの綴りモデルは、KLD(Kulback-Leibler divergence)の目標を最小化することによって最適化される。
我々は、CTC重み付き言語モデル対数確率比を、未知の正しい ASR と教師なし学習 ASR の KLD と解釈でき、ピンスカー境界を用いて、未知語の真と推定されるスペルの総変分距離における KLD の平方根を上界と解釈できることを示した。
実験の結果、リブリスペーチでは最大14.97%のOOV文字・エラー率の減少、6.67%の変形性音声アクセシビリティー・プロジェクト(英語版)において、対応するリスコリングシステムと比較してOOV単語を繰り返すための相対的なOOV文字・エラー率の低下が示されている。
関連論文リスト
- SN-WER: Script-Normalized WER for Multi-Script Indic ASR Evaluation [0.8243795440723053]
Script-Normalized WER (SN-WER) は、トレーニングフリーで評価のみのスコアリング手法である。
SN-WERを5つのIndic言語、2つのデータセット、3つのASRモデルで評価した。
論文 参考訳(メタデータ) (2026-06-01T17:49:10Z) - Zero-shot Context Biasing with Trie-based Decoding using Synthetic Multi-Pronunciation [38.053484403802834]
合成駆動型多発音文脈バイアス法を提案する。
本手法は,非バイアスワード誤り率(B-WER)をテストクリーンで43%,他で44%削減し,非バイアスワードエラー率(U-WER)は基本的に変化しない。
論文 参考訳(メタデータ) (2025-08-25T08:41:52Z) - An Effective Context-Balanced Adaptation Approach for Long-Tailed Speech Recognition [10.234673954430221]
周波数分布の異なる単語がモデルの性能に与える影響について検討する。
AISHELL-1ベンチマークデータセットで実施された一連の実験は、トレーニングコーパスのすべての語彙をコンテキストリストとして使用し、バランスの取れた目的と組み合わせることで、最高のパフォーマンスが得られることを示唆している。
論文 参考訳(メタデータ) (2024-09-10T12:52:36Z) - Towards Unsupervised Speech Recognition Without Pronunciation Models [57.222729245842054]
本稿では,ペア音声とテキストコーパスを使わずにASRシステムを開発するという課題に取り組む。
音声合成とテキスト・テキスト・マスクによるトークン埋込から教師なし音声認識が実現可能であることを実験的に実証した。
この革新的なモデルは、レキシコンフリー環境下での以前の教師なしASRモデルの性能を上回る。
論文 参考訳(メタデータ) (2024-06-12T16:30:58Z) - Continuously Learning New Words in Automatic Speech Recognition [56.972851337263755]
音声認識のための自己教師付き連続学習手法を提案する。
文献からのメモリ拡張型ASRモデルを用いて、スライドから新しい単語を復号する。
提案手法により,新たな単語の出現頻度が高くなると,新たな単語のパフォーマンスが向上することを示す。
論文 参考訳(メタデータ) (2024-01-09T10:39:17Z) - HyPoradise: An Open Baseline for Generative Speech Recognition with
Large Language Models [81.56455625624041]
ASRの誤り訂正に外部の大規模言語モデル(LLM)を利用する最初のオープンソースベンチマークを導入する。
提案したベンチマークには、334,000組以上のN-best仮説を含む新しいデータセットHyPoradise (HP)が含まれている。
合理的なプロンプトと生成能力を持つLLMは、N-bestリストに欠けているトークンを修正できる。
論文 参考訳(メタデータ) (2023-09-27T14:44:10Z) - SpellMapper: A non-autoregressive neural spellchecker for ASR
customization with candidate retrieval based on n-gram mappings [76.87664008338317]
文脈スペル補正モデルは、音声認識を改善するために浅い融合に代わるものである。
ミススペルn-gramマッピングに基づく候補探索のための新しいアルゴリズムを提案する。
Spoken Wikipediaの実験では、ベースラインのASRシステムに比べて21.4%のワードエラー率の改善が見られた。
論文 参考訳(メタデータ) (2023-06-04T10:00:12Z) - Minimising Biasing Word Errors for Contextual ASR with the
Tree-Constrained Pointer Generator [19.372248692745167]
高評価長尾語における音声認識誤りの低減には文脈知識が不可欠である。
本稿では,木制約付きポインタジェネレータ(TCPGen)コンポーネントを提案する。
論文 参考訳(メタデータ) (2022-05-18T16:40:50Z) - Deep learning models for representing out-of-vocabulary words [1.4502611532302039]
本稿では,語彙外(OOV)単語を表現するためのディープラーニングモデルの性能評価を行う。
OOV単語を扱うための最善のテクニックはタスクごとに異なるが、OV単語のコンテキストと形態構造に基づいて埋め込みを推論する深層学習手法であるComickは、有望な結果を得た。
論文 参考訳(メタデータ) (2020-07-14T19:31:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。