論文の概要: How Far Can the Gemma 4 Speech Encoder Go Without Changing Its Weights? Saudi and Gulf Arabic Speech Recognition with a Frozen and an Adapter-Augmented Encoder
- arxiv url: http://arxiv.org/abs/2610.28673v1
- Date: Sun, 18 Oct 2026 21:06:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-23 00:40:06.09774
- Title: How Far Can the Gemma 4 Speech Encoder Go Without Changing Its Weights? Saudi and Gulf Arabic Speech Recognition with a Frozen and an Adapter-Augmented Encoder
- Title(参考訳): Gemma 4の音声エンコーダは、その重さを変えずにどこまで使えるのか?
- Abstract要約: サウジアラビアと湾岸アラビアの音声認識において,Gemma 4 と EmbeddingGemma 2 が共有する305Mパラメータオーディオエンコーダについて検討した。
冷凍されたシステムは、エンコーダ層を混合して22.6MパラメータCTCリーダーのみを訓練する。
適応されたシステムには、3.1Mの低ランクアダプタパラメータ、41.5MのパラメータハイブリッドCTC/アテンションリーダー、サブワード言語モデルとの結合復号が含まれている。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study the 305M-parameter audio encoder shared by Gemma 4 and EmbeddingGemma 2 (identical except for its final projection) for Saudi and Gulf Arabic speech recognition, without changing any of its weights. A frozen system trains only a 22.6M-parameter CTC reader over a mix of encoder layers; an adapted system adds 3.1M low-rank adapter parameters, a 41.5M-parameter hybrid CTC/attention reader and joint decoding with a sub-word language model. Against Cohere Transcribe Arabic (2.07B parameters), re-run on identical audio, the frozen system trails in word error rate (WER) but is statistically indistinguishable in character error rate (CER) on five of six human-labelled conditions, while running 3.4 times faster on CPU with greedy decoding. The adapted system is statistically indistinguishable in WER on a public Saudi customer-service call (19.20% against 19.27%) and on clean Emirati speech, is significantly better on telephone-coded Emirati speech, has a significantly lower CER on all six conditions of these sets, and beats a 0.6B recogniser fine-tuned on SADA in WER on all six; it still trails Cohere in WER on long-form Saudi speech. On a blind, human-corrected public call-centre sample it ranks 4 of 15 systems, behind three commercial APIs (significantly only one) and ahead of the other self-hostable systems by point estimate. An optimised joint decoder runs it at 139 times real time on one GPU. We also show that references made by correcting machine drafts favour the drafting system. Code and public-set results are released.
- Abstract(参考訳): サウジアラビアと湾岸アラビアの音声認識においてGemma 4 と EmbeddingGemma 2 が共有する305Mパラメータオーディオエンコーダについて検討した。
冷凍システムでは、エンコーダ層が混在する22.6MパラメータCTCリーダーのみを訓練し、適応システムには3.1Mローランクアダプタパラメータ、41.5MパラメーターハイブリッドCTC/アテンションリーダー、サブワード言語モデルとの結合復号が加えられている。
Cohere Transcribe アラビア (2.07B のパラメータ) に対して、同じオーディオ上で再実行され、凍結されたシステムはワードエラー率 (WER) で追随するが、6つの条件のうち5つの文字誤り率 (CER) では統計的に区別できない。
適応されたシステムは、サウジアラビアのカスタマーサービス電話(19.20%対19.27%)でのWERでは統計的に区別がつかず、きれいなEmiratiスピーチでは電話で符号化されたEmiratiスピーチでは著しく優れ、これらのセットの6つの条件すべてでCERが大幅に低く、WERのSADAで微調整された0.6Bを破る。
盲目で修正された公衆電話中心のサンプルでは、15のシステムのうち4つをランク付けし、3つの商用API(注目すべきは1つ)と、他のセルフホスト可能なシステムよりもポイント推定で上位にランク付けしている。
最適化されたジョイントデコーダは、1つのGPUで139倍の速度で実行する。
また, 機械草案の修正による参照が起草システムに有利であることを示す。
コードと公開セットの結果がリリースされます。
関連論文リスト
- Voice Memory for Agentic Speech Recognition [66.69623133635868]
エージェント音声認識のための推論専用スキームであるVoice Memoryを提案する。
同期的に、スコア付き例は、境界編集を通じてそのファイルを更新する。
10のHyPoradiseドメインにオープン修正器、Voice Memory、重み付き単語エラー率8.36%から7.52%の10のドメインがある。
論文 参考訳(メタデータ) (2026-07-29T02:42:56Z) - Benchmarking Commercial ASR Systems on Code-Switching Speech: Arabic, Persian, and German [0.34797121357690153]
我々は、4つの言語ペアで5つの商用ASRプロバイダを評価するベンチマークを示す。
We evaluate on WER and BERTScore, showed that both metrics agree on the Ordinal ranking of systems, WER inflats the size of quality gaps。
ElevenLabs Scribe v2は最低のWER(全体の13.2%)を獲得し、BERTScore(全体の0.936)に導かれる。
論文 参考訳(メタデータ) (2026-05-18T19:50:44Z) - Do LLM Decoders Listen Fairly? Benchmarking How Language Model Priors Shape Bias in Speech Recognition [9.131439623985028]
事前訓練された大規模言語モデルは、音声認識におけるタスク固有のデコーダを置き換える。
彼らのテキスト由来の先行性は、認識をより公平にするか、あるいは人口統計グループに偏っているか?
我々は,3世代にわたる9つのモデルを5つの人口動態軸にわたる約43,000発の発話で評価した。
論文 参考訳(メタデータ) (2026-04-23T04:40:58Z) - AsyncSwitch: Asynchronous Text-Speech Adaptation for Code-Switched ASR [3.263178944046948]
AsyncSwitchは、ペア音声テキストコーパスを微調整する前に、さまざまなコードスイッチされたドメインにASRモデルを事前出力する新しいフレームワークである。
マレー語と英語のコードスイッチングに関するウィスパーの実験では、9.02%の相対的なWER削減が示され、シングリッシュ、マレー語、その他の英語の変種におけるモノリンガルのパフォーマンスが向上した。
論文 参考訳(メタデータ) (2025-06-17T05:05:09Z) - SeamlessM4T: Massively Multilingual & Multimodal Machine Translation [90.71078166159295]
音声から音声への翻訳,音声からテキストへの翻訳,テキストからテキストへの翻訳,最大100言語の自動音声認識をサポートする単一モデルSeamlessM4Tを紹介する。
我々は、音声とテキストの両方に英語を翻訳できる最初の多言語システムを開発した。
FLEURSでは、SeamlessM4Tが複数のターゲット言語への翻訳の新しい標準を設定し、音声からテキストへの直接翻訳において、以前のSOTAよりも20%BLEUの改善を実現している。
論文 参考訳(メタデータ) (2023-08-22T17:44:18Z) - RedApt: An Adaptor for wav2vec 2 Encoding \\ Faster and Smaller Speech
Translation without Quality Compromise [66.92823764664206]
我々は,任意のトランスフォーマーベース音声符号化アーキテクチャにシームレスに統合可能な,新しいReduceer AdaptorブロックRedAptを提案する。
事前訓練されたwav2vec 2音声エンコーダをRedAptbrings 41%の高速化、33%のメモリ削減、24%のFLOPを推論で削減した。
論文 参考訳(メタデータ) (2022-10-16T07:58:25Z) - Arabic Speech Recognition by End-to-End, Modular Systems and Human [56.96327247226586]
我々は、エンドツーエンド変換器ASR、モジュール型HMM-DNN ASR、および人間の音声認識のための包括的なベンチマークを行う。
ASRでは、エンドツーエンドの作業が12.5%、27.5%、23.8%のWERとなり、それぞれMGB2、MGB3、MGB5の新たなパフォーマンスマイルストーンとなった。
以上の結果から,アラビア語における人的パフォーマンスは,平均3.6%のWERギャップを持つ機械に比べて,依然としてかなり優れていたことが示唆された。
論文 参考訳(メタデータ) (2021-01-21T05:55:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。