論文の概要: Understanding Personalization Gains in Whisper ASR

• arxiv url: http://arxiv.org/abs/2610.17019v2
• Date: Sat, 17 Oct 2026 09:17:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 06:32:45.278113
• Title: Understanding Personalization Gains in Whisper ASR
• Title（参考訳）: Whisper ASRにおけるパーソナライズ向上の理解
• Abstract要約: 軽量低ランク適応 (LoRA) がWhisperを改善するか, グループ固有のアダプタを必要とするかを検討した。 Across Common Voice, LibriSpeech, VoxPopuli, we compare zero-shot Whisper, pooled LoRA, and group-specific LoRA under matched within-group splits。 ゲインは難しい共通音声グループに集中しており、VoxPopuliに一貫性があり、低エラーのLibriSpeechにはほとんど消失している。
• 参考スコア（独自算出の注目度）: 0.8164433158925593
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Whisper-style ASR models provide strong zero-shot transcription, but their residual errors are not evenly distributed across datasets, recording conditions, and metadata-based groups. We study when lightweight low-rank adaptation (LoRA) improves Whisper and whether observed gains require group-specific adapters. Across Common Voice, LibriSpeech, and VoxPopuli, we compare zero-shot Whisper, pooled LoRA, and group-specific LoRA under matched within-group splits. We find that adaptation is not uniformly beneficial: gains are concentrated in difficult Common Voice groups, are consistent on VoxPopuli, and largely disappear on low-error LibriSpeech. Crucially, pooled LoRA often matches, and sometimes clearly outperforms, group-specific LoRA. Gains over zero-shot should therefore be tested against matched pooled adaptation before being interpreted as evidence of personalization.
• Abstract（参考訳）: WhisperスタイルのASRモデルは、強いゼロショットの書き起こしを提供するが、残差エラーはデータセット、記録条件、メタデータベースのグループに均等に分散されない。 軽量低ランク適応 (LoRA) がWhisperを改善するか, グループ固有のアダプタを必要とするかを検討した。 Across Common Voice, LibriSpeech, VoxPopuli, we compare zero-shot Whisper, pooled LoRA, and group-specific LoRA under matched within-group splits。 ゲインは難しい共通音声グループに集中しており、VoxPopuliに一貫性があり、低エラーのLibriSpeechにはほとんど消失している。 重要なことに、プールされたLoRAはしばしば一致し、時にはグループ固有のLoRAよりも優れる。 したがって、ゼロショット以上の利得は、パーソナライゼーションの証拠として解釈される前に、一致したプール適応に対してテストされるべきである。

関連論文リスト

• Groupwise Distortion Guarantees for Preference-Based Alignment [7.188275243856368]
  本稿では,一つのグループ条件のポリシーをユーザ毎の比較から学習する効率的なアルゴリズムを提案する。 類似した好みを持つグループに対するよりシャープな保証は、メンバーが許容可能なお気に入りのレスポンスを共有するときに、その歪みにアプローチする。
  論文  参考訳（メタデータ） (2026-10-04T18:45:36Z)
• Pruning for Efficiency, Paying in Fairness: Demographic Disparities in Pruned Speech-LLMs [4.036791118154379]
  音声エンコーダのプルーニングがSLAM-ASRに与える影響を,異なる集団群に対して系統的に検討した。 その結果,刈り取りがすべての人口集団に等しく影響を与えないことが判明した。 以上の結果から, プルーニングモデルでは, グループごとのWERの配置決定を, グループごとのエラー率を明示的基準として含めるべきであることが示唆された。
  論文  参考訳（メタデータ） (2026-09-29T17:46:50Z)
• Balanced LoRA: Removing Parameter Invariance to Accelerate Convergence [30.96331195818476]
  Low-Rank Adaptation (LoRA) は、大規模言語モデルを微調整するための最も広く採用されている手法である。 バランス付き多様体に反復を射影するLoRAの変種BaLoRAを導入する。 BaLoRAは標準のLoRAよりも早く収束し、様々な微調整タスクで優れたパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2026-05-29T16:08:28Z)
• FedMomentum: Preserving LoRA Training Momentum in Federated Fine-Tuning [26.248129364672398]
  低ランク適応(LoRA)を備えた大規模言語モデルのフェデレート微調整は、タスク固有の適応のための通信効率とプライバシ保護ソリューションを提供する。 LoRAモジュールのネイティブアグリゲーションは、ダウンサンプリングおよびアップサンプリング行列を独立に平均化する際の数学的誤りによるノイズをもたらす。 我々は,単一値分解による構造的および運動量保存のLoRAアグリゲーションを可能にする新しいフレームワークであるFedMomentumを提案する。
  論文  参考訳（メタデータ） (2026-03-09T06:43:17Z)
• Decomposing and Composing: Towards Efficient Vision-Language Continual Learning via Rank-1 Expert Pool in a Single LoRA [50.97792275353563]
  単一低ランク適応 (LoRA) モジュールを分解可能な Rank-1 エキスパートプールとして再構成する,新しいフレームワークを提案する。 本手法では,このエキスパートプールから[Guided]トークンのセマンティクスに導かれて,疎結合でタスク固有の更新を動的に作成することを学ぶ。
  論文  参考訳（メタデータ） (2026-01-30T10:54:51Z)
• Why LoRA Fails to Forget: Regularized Low-Rank Adaptation Against Backdoors in Language Models [5.957171492626586]
  Low-Rank Adaptation (LoRA) は大規模言語モデルのパラメータ効率の良い微調整に広く用いられている。 LoRAの脆弱性は基本的にスペクトルであることを示す。 正規化低ランク適応(RoRA)は、スペクトル強度を増大させることにより、忘れを改善する。
  論文  参考訳（メタデータ） (2026-01-09T20:54:47Z)
• SD-LoRA: Scalable Decoupled Low-Rank Adaptation for Class Incremental Learning [73.93639228235622]
  基礎モデルによる継続的な学習は、シーケンシャルなタスクに取り組むための事前トレーニング中に得られた豊富な知識を活用するための有望なパラダイムとして現れてきた。 既存のプロンプトベースおよびローランク適応ベース(LoRAベース)メソッドでは、プロンプト/ローラプールの拡張や、以前のタスクのサンプルの保持がしばしば必要である。 クラスインクリメンタル学習のためのスケーラブルデカップリングLoRA(SD-LoRA)を提案する。
  論文  参考訳（メタデータ） (2025-01-22T20:00:41Z)
• DoRA: Weight-Decomposed Low-Rank Adaptation [57.68678247436207]
  本稿では,FTとLoRAの相違点を明らかにするために,新しい重み分解解析法を提案する。 本研究は、FTの学習能力に類似することを目的として、重量分解低ランク適応(DoRA)を提案する。 DoRAは、事前訓練された重量を、微調整のための大きさと方向の2つの構成要素に分解する。
  論文  参考訳（メタデータ） (2024-02-14T17:59:34Z)
• Bitrate-Constrained DRO: Beyond Worst Case Robustness To Unknown Group Shifts [122.08782633878788]
  いくつかの堅牢なトレーニングアルゴリズム(例えば、グループDRO)は、グループシフトを専門とし、すべてのトレーニングポイントについてグループ情報を必要とする。 グループアノテーションを必要としない他の方法(CVaR DROなど)は、過度に保守的である。 低機能により実現された単純な群関数の精度を維持するモデルを学習する。
  論文  参考訳（メタデータ） (2023-02-06T17:07:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。