論文の概要: Progressive Alignment Objectives for Aligner-Encoder based ASR

• arxiv url: http://arxiv.org/abs/2606.24147v1
• Date: Tue, 23 Jun 2026 05:09:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-24 22:16:48.775628
• Title: Progressive Alignment Objectives for Aligner-Encoder based ASR
• Title（参考訳）: Aligner-Encoder ベース ASR のプログレッシブアライメント対象
• Authors: Jaeyong Lee, Masato Mimura, Takafumi Moriya,
• Abstract要約: 我々はInterAlignerを提案する。これは、中間アリグナーの目的を付加し、アライメントが奥行きにわたって徐々に形成できるようにしている。 17層コンバータを持つLibriSpeechでは、最終的な唯一のアリグナーが5.0/7.8 WERに達する。 InterAlignerはWERをさらに3.1/5.6に減らし、長い発話で最大のゲインを得られる。
• 参考スコア（独自算出の注目度）: 22.250679698520486
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Aligner-Encoders are recently proposed seq2seq end-to-end ASR models that replace decoder attention by predicting the uth token directly from the u-th encoder position, so the encoder must learn the alignment internally without cross-attention or a transducer lattice. In practice, this alignment often forms abruptly in the upper layers, making training sensitive and brittle on long utterances. We propose InterAligner, which adds an intermediate Aligner objective so alignment can form progressively across depth, together with an intermediate CTC loss (InterCTC) to stabilize optimization. On LibriSpeech with a 17-layer Conformer, a final-only Aligner reaches 5.0/7.8 WER (test-clean/other). InterCTC improves to 3.4/6.0, and InterAligner further reduces WER to 3.1/5.6 with the largest gains on long utterances.
• Abstract（参考訳）: Aligner-Encoder は、最近提案された Seq2seq end-to-end ASR モデルで、u-th encoder 位置から直接 uth トークンを予測することでデコーダの注意を置き換える。 実際には、このアライメントは上層で急激に形成され、長い発話で訓練を敏感にし、脆くする。 我々はInterAlignerを提案する。このInterAlignerは、中間アリグナーの目的を付加し、最適化を安定させるために中間CTC損失(InterCTC)とともに、深度にわたって徐々にアライメントが形成される。 17層コンバータを持つLibriSpeechでは、最終版のみのAlignerが5.0/7.8 WER(テストクリーン/他)に達する。 InterCTCは3.4/6.0に改善され、InterAlignerはWERをさらに3.1/5.6に減らした。

関連論文リスト

• Beyond Encoder Accumulation: Measuring Encoder Roles in Multi-Encoder VLMs [50.3757247538081]
  我々は、統一パイプラインの下で、5つの共通ビジョンエンコーダの空でないサブセット31を再訓練し、評価する。 各エンコーダのコントリビューションを,容量と必要量という2つの軸に分解する。 エンコーダごとのプロジェクタ有効ランクは、残留スコアの変動を説明する。
  論文  参考訳（メタデータ） (2026-06-02T16:46:42Z)
• LiteASR: Efficient Automatic Speech Recognition with Low-Rank Approximation [13.817958247146175]
  本稿では,ASRエンコーダの低ランク圧縮方式であるLiteASRを導入する。 評価の結果,Whisperの大容量v3エンコーダサイズを50%以上圧縮し,Whisper媒体サイズと転写精度を比較検討した。
  論文  参考訳（メタデータ） (2025-02-27T22:52:21Z)
• Iterative pseudo-forced alignment by acoustic CTC loss for self-supervised ASR domain adaptation [80.12316877964558]
  特定のドメインからの高品質なデータラベリングはコストと人的時間を要する。 本稿では,反復的擬力アライメントアルゴリズムに基づく自己教師付きドメイン適応手法を提案する。
  論文  参考訳（メタデータ） (2022-10-27T07:23:08Z)
• ASR Error Correction with Constrained Decoding on Operation Prediction [8.701142327932484]
  本稿では,修正操作の予測を利用したASR誤り訂正手法を提案する。 3つの公開データセットの実験では、デコードプロセスの遅延を低減するための提案手法の有効性が示されている。
  論文  参考訳（メタデータ） (2022-08-09T09:59:30Z)
• An Improved Single Step Non-autoregressive Transformer for Automatic Speech Recognition [28.06475768075206]
  非自己回帰機構は、音声変換器の推論時間を著しく短縮することができる。 CTCアライメントに基づく単一ステップ非自己回帰変換器(CASS-NAT)の以前の研究は、自己回帰変換器(AT)よりも大きなリアルタイム係数(RTF)の改善を示している。 エンド・ツー・エンドのCASS-NATの精度を向上させるためのいくつかの手法を提案する。
  論文  参考訳（メタデータ） (2021-06-18T02:58:30Z)
• Instantaneous Grammatical Error Correction with Shallow Aggressive Decoding [57.08875260900373]
  即時文法的誤り訂正(GEC)のためのトランスフォーマーのオンライン推論効率を改善するために,Shallow Aggressive Decoding (SAD)を提案する。 SADは、計算並列性を改善するために、各ステップで1つのトークンだけを復号するのではなく、可能な限り多くのトークンを並列に復号する。 英語と中国語のGECベンチマークでの実験では、アグレッシブな復号化がオンライン推論の大幅なスピードアップをもたらす可能性がある。
  論文  参考訳（メタデータ） (2021-06-09T10:30:59Z)
• Advanced Long-context End-to-end Speech Recognition Using Context-expanded Transformers [56.56220390953412]
  コンフォーメータアーキテクチャを導入することで、精度をさらに向上させ、以前の作業を拡張します。 拡張トランスフォーマーは、最先端のエンドツーエンドのASR性能を提供する。
  論文  参考訳（メタデータ） (2021-04-19T16:18:00Z)
• Intermediate Loss Regularization for CTC-based Speech Recognition [58.33721897180646]
  本稿では,コネクショニスト時間分類(CTC)の目的に基づいて,自動音声認識(ASR)のための簡易かつ効率的な補助的損失関数を提案する。 提案手法は,WSJコーパスの単語誤り率(WER)9.9%,AISHELL-1コーパスの文字誤り率(CER)5.2%である。
  論文  参考訳（メタデータ） (2021-02-05T15:01:03Z)
• Non-Autoregressive Transformer ASR with CTC-Enhanced Decoder Input [54.82369261350497]
  CTCモジュールの予測を精算することでターゲットシーケンスを生成するCTC拡張NARトランスを提案する。 実験結果から,Aishell-1およびAishell-2データセットでは,Aishell-1およびAishell-2データセットの絶対CER劣化が0。
  論文  参考訳（メタデータ） (2020-10-28T15:00:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。