論文の概要: Temporal Taxation Compounds Under Post-Training Compression of Whisper Models
- arxiv url: http://arxiv.org/abs/2609.28739v1
- Date: Wed, 23 Sep 2026 19:31:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-25 21:10:09.532059
- Title: Temporal Taxation Compounds Under Post-Training Compression of Whisper Models
- Title(参考訳): whisperモデルによる戦後圧縮下における時間的課税
- Abstract要約: トレーニング後の重み圧縮は、音声信号や特徴表現よりもモデル重みを変化させる。
書き起こし誤り毎の修正に5秒の費用がかかると仮定すると、これは音声毎分30秒から64秒の修正時間になる。
エッジモデルでは、INT4 HQQ量子化化合物は、西アフリカのアクセントに5から7の因子で破滅的な転写ループを持つ。
- 参考スコア(独自算出の注目度): 9.131439623985028
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Automatic speech recognition models are audited for demographic fairness at full precision, yet the models that ship to production have been quantized, pruned, and distilled. We ask whether post-training weight compression, which alters model weights rather than the audio signal or its feature representation, redistributes error burden across demographic groups. Across the Whisper family on Fair-Speech, Common Voice 25, and AfriSpeech-200, 50% Wanda pruning of Whisper-large-v3 sharply widens the Black/AA-vs-Asian temporal-taxation differential on Fair-Speech: the absolute word-error-rate gap between the worst- and best-served groups more than doubles; at an assumed cost of five seconds of correction effort per transcription error this is a rise from 30 to 64 seconds of correction time per minute of speech. This +111% relative increase is invariant to the assumed per-error cost, survives an audio-quality control, and is only partly mitigated by beam-search decoding, which still leaves an +86% increase. At edge model size, INT4 HQQ quantization compounds catastrophic transcript loops on West African accents by factors of five to seven. Distillation, by contrast, narrows demographic gaps in 21 of 27 evaluated settings (teacher-student pair, precision, and dataset), with the exceptions concentrated on a single model pair. We cast the temporal-taxation construct of Choi and Choi (2025) as a quantitative metric, and show that single-snapshot fairness audits on full-precision models do not capture the deployment-time burden that compression places on already-marginalized speakers.
- Abstract(参考訳): 自動音声認識モデルは、完全な精度で人口動態フェアネスを監査するが、生産に出荷されるモデルは定量化され、精製され、蒸留されている。
音声信号や特徴表現よりもモデル重みを変化させるポストトレーニング重み圧縮が、人口集団間の誤差負担を再分配するかどうかを問う。
The Whisper family on Fair-Speech, Common Voice 25 and AfriSpeech-200, 50% Wanda pruning of Whisper-large-v3 has sharply wided the Black/AA-vs-Asian temporal-taxation differential on Fair-Speech: the absolute word-error-rate gap between the worst- and best-served group than doubles; at the assumed cost of 5 seconds of correct effort per transcription error これは音声毎分30秒から64秒の補正時間である。
この+111%の相対的な増加は、エラー当たりのコストと不変であり、オーディオ品質の制御を継続し、ビーム探索復号によって部分的に緩和されるだけであり、それでも+86%の増加を残している。
エッジモデルでは、INT4 HQQ量子化化合物は、西アフリカのアクセントに5から7の因子で破滅的な転写ループを持つ。
対照的に、蒸留は、評価された設定(教師と学生のペア、精度、データセット)のうち21の層間ギャップを狭め、例外は1つのモデルペアに集中する。
我々は,ChoiとChoi(2025)の時間的課税構造を定量的に評価し,実精度モデル上での単発フェアネス監査が,既に有意な話者が配置する時間的負担を捉えていないことを示す。
関連論文リスト
- When Entanglement Lower-Bounds Disparity: Auditing and Repairing Demographic Fairness in Audio Understanding Models [0.33054385258808067]
音声認識は黒人話者の約2倍の頻度で行われ、第二言語アクセントや古い話者の精度は低下している。
TRIAD,120のテキストを横断する監査グリッド,24の階層音声プロファイル(ジェンダー,年齢帯,アクセント),10の表現スタイルを制御可能なテキスト・トゥ・音声で導入する。
論文 参考訳(メタデータ) (2026-09-23T05:32:59Z) - GrainSpeech: Less Context, More Detail for Compact Speech Synthesis [3.2153831732313614]
GrainSpeechは264.8Kのパラメータしか持たず、マイクロコントローラ上で17.9倍のリアルタイムメル生成を実現している。
本稿では,各予測誤差を36.4%,17.3%,3.4%削減する固定受容場畳み込みエンコーダを提案する。
論文 参考訳(メタデータ) (2026-09-16T15:59:20Z) - DiTAR+: Dual Optimization for Robust Autoregressive Diffusion Speech Synthesis [18.187203738724563]
連続遅延自己回帰拡散変換器(AR-DiT)モデルは、ゼロショット音声生成において大きな可能性を示した。
長い発話や複雑な言語構造を合成する際には、復号安定性が制限されている。
これらの課題に対処する双対最適化フレームワークであるDiTAR+を提案する。
論文 参考訳(メタデータ) (2026-09-12T12:32:02Z) - X-AuT: Progressive Audio-Encoder Compression for Speech LLMs with Cross-Scale Distillation [34.99298958122614]
X-AuTは、短い振る舞いプローブを通して層の組み合わせを選択するプログレッシブフレームワークである。
表現アライメント、クロススケール蒸留、スケジュールされた学生政治監督、LoRAファインタニングを通じて、プルーニングモデルを復元する。
18から16のオーディオエンコーダ層からQwen3-ASR-0.6Bを圧縮した10の公開英語ベンチマークでは、マクロ平均誤差が5.61%から5.27%に減少する。
論文 参考訳(メタデータ) (2026-09-10T11:43:17Z) - Speech-FT: Merging Pre-trained And Fine-Tuned Speech Representation Models For Cross-Task Generalization [51.56024241398741]
微調整された音声表現モデルは、特定のタスクのパフォーマンスを向上させることができるが、しばしばタスク間の一般化能力を損なう。
微調整中の重量変化の規則化のような既存のアプローチは、事前訓練されたモデルと十分に高い特徴的類似性を維持できない可能性がある。
本研究では,2段階のファインチューニングフレームワークであるSpeech-FTを提案する。
論文 参考訳(メタデータ) (2025-02-18T09:23:42Z) - Convoifilter: A case study of doing cocktail party speech recognition [59.80042864360884]
このモデルは、このアプローチにより、ASRの単語誤り率(WER)を80%から26.4%に下げることができる。
我々はオープンに事前学習モデルを共有し、hf.co/nguyenvulebinh/voice-filterのさらなる研究を促進する。
論文 参考訳(メタデータ) (2023-08-22T12:09:30Z) - Don't Stop Self-Supervision: Accent Adaptation of Speech Representations
via Residual Adapters [14.645374377673148]
大規模未ラベル音声コーパスから自己教師型で学習した音声表現は、複数の下流タスクに適応することに成功した。
そこで本研究では,アクセント固有のアダプタを訓練し,パラメータ効率の高い手法で音声表現を適応させる手法を提案する。
全4アクセントに対して,HuBERT-largeよりも強い単語誤り率(WERR)が減少し,アクセント特異的アダプターでは平均WERRが22.7%,全エンコーダがアクセント適応であれば平均WERRが25.1%となった。
論文 参考訳(メタデータ) (2023-07-02T02:21:29Z) - Unsupervised Cross-lingual Representation Learning for Speech
Recognition [63.85924123692923]
XLSRは、複数の言語における音声の生波形から1つのモデルを事前学習することで、言語間音声表現を学習する。
我々は、マスク付き潜在音声表現よりも対照的なタスクを解くことで訓練されたwav2vec 2.0を構築した。
実験により、言語間事前学習はモノリンガル事前訓練よりも著しく優れていることが示された。
論文 参考訳(メタデータ) (2020-06-24T18:25:05Z) - Deliberation Model Based Two-Pass End-to-End Speech Recognition [52.45841282906516]
非ストリーミングのリステン・アテン・アンド・スペル(LAS)モデルを用いて、ストリーム仮説を再スコアする2パスモデルが提案されている。
このモデルは、第一パスのテキスト仮説のみを使用する神経矯正モデルのクラスとは対照的に、音響学で仮説を再評価する。
双方向エンコーダを用いて、ファーストパス仮説からコンテキスト情報を抽出する。
論文 参考訳(メタデータ) (2020-03-17T22:01:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。