論文の概要: Sequential Adapter Stacking for Cross-Lingual Low-Resource ASR

• arxiv url: http://arxiv.org/abs/2609.15758v1
• Date: Mon, 14 Sep 2026 15:43:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-16 12:40:38.851928
• Title: Sequential Adapter Stacking for Cross-Lingual Low-Resource ASR
• Title（参考訳）: クロスリンガル低リソースASRのための逐次アダプタスタックリング
• Abstract要約: 本稿では,Whisper上で,ソース言語から低リソースターゲット言語への知識伝達手法について検討する。 そこで本研究では,凍結したソース言語アダプタ上に,トレーニング可能なターゲット言語アダプタを配置するSequential Adapter Stackingを提案する。 これらのアプローチは、Whisperによってサポートされていない3つのターゲット言語で評価される。
• 参考スコア（独自算出の注目度）: 2.27726424067057
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Extending large-scale multilingual automatic speech recognition (ASR) models to low-resource languages remains challenging. Model performance is skewed toward high-resource languages and degrades sharply for languages with limited labeled data and pre-training exposure. To address this, we investigate parameter-efficient approaches for transferring knowledge from resource-rich source languages to low-resource target languages on Whisper. Alongside warm initialization and attention-based fusion, we propose Sequential Adapter Stacking, which places a trainable target-language adapter on top of a frozen source-language adapter. Under controlled experiments, these approaches are evaluated on three target languages unsupported by Whisper -- Asturian, Assamese, and Xhosa -- using source languages with varying degrees of relatedness. Sequential Adapter Stacking with the closest related source consistently and significantly outperforms full fine-tuning across the three targets, with 5--8\% relative WER reductions. These gains largely persist with only one hour of target training data.
• Abstract（参考訳）: 大規模多言語自動音声認識(ASR)モデルを低リソース言語に拡張することは依然として困難である。 モデルパフォーマンスは,ラベル付きデータに制限のある言語や事前学習した言語に対して,高リソース言語に向けてスキューされ,格段に低下する。 そこで本研究では,Whisper上のリソース豊富なソース言語から低リソースターゲット言語へ知識を伝達するためのパラメータ効率のアプローチについて検討する。 温かい初期化と注意に基づく融合に加えて,凍結したソース言語アダプタの上にトレーニング可能なターゲット言語アダプタを配置するSequential Adapter Stackingを提案する。 制御された実験では、これらのアプローチはWhisperがサポートしていない3つのターゲット言語(Asturian、Assamese、Xhosa)で評価される。 逐次アダプタ・スタックングと最も近い関連するソースは、3つのターゲットの完全な微調整よりも優れており、5～8倍の相対的なWER削減を実現している。 これらのゲインは、目標とするトレーニングデータのわずか1時間でほぼ持続する。

関連論文リスト

• Task Arithmetic with Support Languages for Low-Resource ASR [2.0368746869445236]
  多くの低リソース自然言語処理タスクへの既存のアプローチは、高リソース言語からの追加データを活用する。 人気が高まっている1つのアプローチは、タスク演算を使用して、異なるタスクでトレーニングされたモデルを組み合わせて、トレーニングデータが少ないタスクのためのモデルを作成する。 本稿では,特定の言語の訓練をタスクとみなし,Whisper ASRシステムの微調整によるタスクベクトルを生成する。
  論文  参考訳（メタデータ） (2026-01-11T19:24:05Z)
• Limited-Resource Adapters Are Regularizers, Not Linguists [10.811626810036374]
  関連する高リソース言語からの言語間移動は、低リソース言語技術を強化するための確立された戦略である。 予め訓練された機械翻訳モデルのクロスアテンション微調整と組み合わせたアダプタスープ法について検討する。
  論文  参考訳（メタデータ） (2025-05-30T12:34:28Z)
• Enhancing Multilingual ASR for Unseen Languages via Language Embedding Modeling [50.62091603179394]
  最も先進的なASRモデルの1つであるWhisperは99の言語を効果的に扱う。 しかし、ウィスパーは未確認の言語と戦っているが、それらは事前訓練には含まれていない。 本研究では,これらの関係を利用して未知言語上でのASR性能を向上させる手法を提案する。
  論文  参考訳（メタデータ） (2024-12-21T04:05:43Z)
• Weighted Cross-entropy for Low-Resource Languages in Multilingual Speech Recognition [2.7247388777405597]
  重み付きクロスエントロピーの新たな応用法を提案する。 我々は5つの高ソース言語と1つの低リソース言語でWhisper多言語ASRモデルを微調整する。
  論文  参考訳（メタデータ） (2024-09-25T14:09:09Z)
• SMILE: Speech Meta In-Context Learning for Low-Resource Language Automatic Speech Recognition [55.2480439325792]
  音声メタインコンテキスト学習(SMILE)は、メタラーニングと音声インコンテキスト学習(SICL)を組み合わせた革新的なフレームワークである SMILEは、トレーニング不要な多言語ASRタスクにおいて、ベースライン手法よりも一貫して優れていることを示す。
  論文  参考訳（メタデータ） (2024-09-16T16:04:16Z)
• Zero-shot Sentiment Analysis in Low-Resource Languages Using a Multilingual Sentiment Lexicon [78.12363425794214]
  私たちは、34の言語にまたがるゼロショットの感情分析タスクに重点を置いています。 文レベルの感情データを使用しない多言語語彙を用いた事前学習は、英語の感情データセットに微調整されたモデルと比較して、ゼロショット性能が優れていることを示す。
  論文  参考訳（メタデータ） (2024-02-03T10:41:05Z)
• Learning Cross-lingual Mappings for Data Augmentation to Improve Low-Resource Speech Recognition [31.575930914290762]
  言語間リソースの爆発は、低リソース言語のデータの不足を補う効果的な方法である。 エンドツーエンド音声認識のための学習可能な言語間マッピングの概念を拡張した。 その結果,任意のソース言語 ASR モデルを用いて,低リソースターゲット言語認識を行うことが可能であることが示唆された。
  論文  参考訳（メタデータ） (2023-06-14T15:24:31Z)
• Adaptive Activation Network For Low Resource Multilingual Speech Recognition [30.460501537763736]
  ASRモデルの上位層に適応的アクティベーションネットワークを導入する。 また,(1)クロス言語学習,(2)アクティベーション関数をソース言語からターゲット言語に置き換える,(2)多言語学習という2つの手法を提案する。 IARPA Babelデータセットに関する実験により、我々のアプローチは、オフスクラッチトレーニングや従来のボトルネック機能に基づく手法よりも優れていることを示した。
  論文  参考訳（メタデータ） (2022-05-28T04:02:59Z)
• Cross-lingual Machine Reading Comprehension with Language Branch Knowledge Distillation [105.41167108465085]
  言語間機械読解(CLMRC)は、ローソース言語に大規模なデータセットがないため、依然として難しい問題である。 本稿では,Language Branch Machine Reading (LBMRC) という新しい拡張手法を提案する。 LBMRCは、個々の言語に精通したMultiple Machine Read comprehension (MRC)モデルを訓練する。 複数の言語分岐モデルから全ての対象言語に対する単一モデルへのアマルガメート知識の多言語蒸留アプローチを考案する。
  論文  参考訳（メタデータ） (2020-10-27T13:12:17Z)
• Improving Cross-Lingual Transfer Learning for End-to-End Speech Recognition with Speech Translation [63.16500026845157]
  本稿では,対象言語に関する追加知識を組み込む補助課題として,音声からテキストへの翻訳を導入する。 人間の翻訳によるSTの訓練は必要ないことを示す。 低リソースMT(200K例)の擬似ラベルであっても、ST強化転送は直接転送に対して最大8.9%のWER還元をもたらす。
  論文  参考訳（メタデータ） (2020-06-09T19:34:11Z)
• Learning to Learn Morphological Inflection for Resource-Poor Languages [105.11499402984482]
  本稿では,メタラーニング問題として資源不足言語に対する形態的インフレクション(補題を表象形にマッピングする)の課題を提案する。 それぞれの言語を個別のタスクとして扱うことで、高速ソース言語からのデータを使ってモデルパラメータの集合を学習する。 3つのファミリーから29のターゲット言語を対象とする2つのモデルアーキテクチャの実験により、提案手法がすべてのベースラインを上回ります。
  論文  参考訳（メタデータ） (2020-04-28T05:13:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。