論文の概要: Choosing a PEFT Variant for Per-Patient Dysarthric ASR: A Single-Speaker Case Study on Two ASR Bases

• arxiv url: http://arxiv.org/abs/2609.02735v1
• Date: Wed, 02 Sep 2026 15:42:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-03 17:53:18.451524
• Title: Choosing a PEFT Variant for Per-Patient Dysarthric ASR: A Single-Speaker Case Study on Two ASR Bases
• Title（参考訳）: Per-Patient Dysarthric ASR におけるPEFT バリアントの選択 : 2つの ASR ベースを用いた単一話者事例
• Abstract要約: 患者ごとのアダプタは、変形性自動音声認識のための製造アーキテクチャとして好まれる。 そこで本研究では,LoRAファミリーの7つの手法を比較した単一話者ケーススタディを提案する。
• 参考スコア（独自算出の注目度）: 1.512137683953423
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Per-patient adapters are the preferred production architecture for dysarthric automatic speech recognition (ASR), yet parameter-efficient fine-tuning (PEFT) variants have not been compared in the speaker-dependent, per-patient regime. We present a single-speaker case study comparing seven LoRA-family methods (LoRA, QLoRA, AdaLoRA, DoRA, LoHA, VeRA, VB-LoRA) on two production bases (Whisper-large-v3 with Hungarian fine-tuning, and a multilingual Qwen3-ASR-1.7B checkpoint) for one post-stroke Hungarian male speaker (S1, 409 utterances; severe dysarthria on auditory-perceptual clinical assessment). Attention-projection adapters substantially improve CER on both bases. Across three seeds, a paired bootstrap detects no significant LoRA-DoRA difference (p>0.5; 13.86/13.90 % CER on Whisper, 28.10/28.33 % on Qwen3-ASR), so we adopt the simpler, cheaper LoRA. Real 4-bit (NF4) QLoRA is worse on every seed and both bases (14.56/30.09 % CER) with no memory saving at this scale, and LoHA, VeRA, VB-LoRA and AdaLoRA do not reach the LoRA family, though LoHA still gives an 18.6 % relative CER reduction on Whisper. On the same base, full fine-tuning is more accurate (11.43 % CER), but a 115 MB LoRA that also adapts the feed-forward blocks reaches within 0.66 pp of it at approximately 3.7 % of the per-patient storage. A 6-point enrollment grid shows about 5 min of patient audio captures 45.6 % of the zero-shot-to-30-min CER reduction, with further gains at 10 and 30 min (caveat: one speaker, one language, severe post-stroke dysarthria). Training scripts and recipes will be released, source-available under a research-use licence, on publication.
• Abstract（参考訳）: 難治性自動音声認識(ASR)では,患者ごとのアダプタが好まれるが,話者依存型,患者毎のシステムでは,パラメータ効率のよい微調整(PEFT)が比較されていない。 ハンガリー人男性話者1名(S1, 409発, 聴覚・聴覚・臨床評価における重度難聴, S1, 409発, 聴覚・聴覚・臨床評価における重度難聴)を対象に, ハンガリー人男性話者7名(LoRA, QLoRA, AdaLoRA, DoRA, LoHA, VeRA, VB-LoRA)を2つの生産拠点(Whisper-large-v3 with Hungarian fine-tuning, Qwen3-ASR-1.7B checkpoint)で比較検討した。 アテンション・プロジェクション・アダプタは両ベースでCERを大幅に改善した。 3つの種にまたがって、ペアブートストラップはロラ-ドーラの有意差(p>0.5; 13.86/13.90 %、Qwen3-ASRでは28.10/28.33 %)を検出しないので、よりシンプルで安価なロラを採用する。 リアル4ビット (NF4) QLoRAは、すべての種子と両方の塩基 (14.56/30.09% CER) において、このスケールではメモリを節約せず、LoHA、VeRA、VB-LoRA、AdaLoRAはLoRAファミリーに到達しないが、LoHAはWhisperに対して18.6%のCER還元率を与えている。 同じベースでは、完全な微調整がより正確である(11.43 % CER)が、フィードフォワードブロックにも適応する115 MB LoRAは、患者あたりのストレージの約3.7 %で0.66 pp以内に達する。 6ポイントの登録グリッドは、ゼロショットから30分間のCER減少の45.6%の患者のオーディオキャプチャの約5分を示し、さらに10分と30分に上昇する(キャベット:1人の話者、1つの言語、1つの言語、重度のストローク後変形)。 トレーニングスクリプトとレシピがリリースされ、研究用ライセンスの下でソースが利用可能になる。

関連論文リスト

• LoRA-TSD: Tangent-Space Spectral Descent for LoRA via Muon-Style Updates [48.87937677659571]
  低ランク適応(LoRA)は、大型モデルを微調整する標準的な方法である。 固定ランク行列多様体に対してすべてのLoRAステップを接として扱うアダプタであるLoRA-TSDを導入する。 LoRA-Pro と LoRA-TSD の両方に対して最初のグローバル収束保証を与える。
  論文  参考訳（メタデータ） (2026-09-02T15:41:45Z)
• Clinically Structured Rank-Gated LoRA for Cross-Benchmark Medical Question Answering [4.896659944013307]
  BiRG-LoRA (BiRG-LoRA) は、医学質問応答のための単一適応ランク付きLoRA法である。 BiRG-LoRAは、トレーニング可能なPEFTベースラインの中で、最高4ベンチマークのマクロ平均精度を達成する。
  論文  参考訳（メタデータ） (2026-06-30T09:59:05Z)
• Echo-LoRA: Parameter-Efficient Fine-Tuning via Cross-Layer Representation Injection [13.686308852232857]
  パラメータ効率の良い微調整のための層間表現注入法であるEcho-LoRAを提案する。 トレーニング中、Echo-LoRAは、深いソース層から境界隠れ状態を収集し、それらをサンプルレベルのエコー表現に集約し、軽量なプロジェクションネットワークを使用して、結果の信号を浅いLoRAまたはDoRAモジュールに注入する。 8つのコモンセンス推論ベンチマークにおいて、Echo-LoRAはLLaMA-7B、LLaMA2-7B、LLaMA3-8Bで報告されたLoRAベースラインを超える。
  論文  参考訳（メタデータ） (2026-05-05T08:26:11Z)
• P-RAG: Prompt-Enhanced Parametric RAG with LoRA and Selective CoT for Biomedical and Multi-Hop QA [9.399056753263757]
  Retrieval-Augmented Generation (RAG) は、推論中に外部知識を取得することで、この制約に対処する。 3種類のRAG変異体-Standard RAG, DA-RAG, 提案したPrompt-Enhanced Parametric RAG (P-RAG) について検討した。 P-RAG は LLM 内にパラメトリック知識を統合し、チェイン・オブ・ソート (CoT) の誘導とローランド適応 (LoRA) によって導かれる証拠を回収する。
  論文  参考訳（メタデータ） (2026-02-02T03:42:45Z)
• Bayesian-LoRA: Probabilistic Low-Rank Adaptation of Large Language Models [5.653755499165773]
  本稿では,Sparse Gaussian Processesにインスパイアされた確率的低ランク表現として,決定論的LoRA更新を再構成するBayesian-LoRAを紹介する。 約0.42Mの追加パラメータと$approx1.2timesのトレーニングコストを標準のLoRAと比較すると、Bayesian-LoRAは最大30Bまでのモデルのキャリブレーションを大幅に改善した。
  論文  参考訳（メタデータ） (2026-01-28T19:54:31Z)
• MapReduce LoRA: Advancing the Pareto Front in Multi-Preference Optimization for Generative Models [52.32146943039743]
  人間のフィードバックからの強化学習は、生成モデルと人間の美学と知覚的嗜好を高度に一致させる。 MapReduce LoRA と Reward-aware Token Embedding (RaTE) の2つの補完手法を紹介する。 我々のフレームワークは、モダリティにまたがる新しい最先端のマルチ参照アライメントのレシピを定めている。
  論文  参考訳（メタデータ） (2025-11-25T18:49:21Z)
• Faster Than SVD, Smarter Than SGD: The OPLoRA Alternating Update [50.36542772932594]
  Low-Rank Adaptation (LoRA) は、凍結重量の上の低ランク更新を学習することで、大きなモデルを微調整する。 ローランクプロジェクションによる完全なトレーニング(SVDLoRA)とLoRAファインチューニングの間にはまだギャップがあり、LoRAのステップをさらに改善できることを示している。
  論文  参考訳（メタデータ） (2025-09-24T10:32:50Z)
• BeamLoRA: Beam-Constraint Low-Rank Adaptation [51.52097743781401]
  Low-Rank Adaptation (LoRA) はパラメータ効率の良い微調整法として広く採用されている。 本研究では,各LoRAモジュールを,各ランクが潜在的サブソリューションに対応するビームとして概念化するビームロラを提案する。
  論文  参考訳（メタデータ） (2025-02-19T10:33:22Z)
• RoRA: Efficient Fine-Tuning of LLM with Reliability Optimization for Rank Adaptation [59.34193580856381]
  Low-Rank Adaptation (LoRA) は大規模言語モデルの微調整に広く使われ、有効である。 本稿では,LoRAのスケーリング係数を最適化するシンプルな手法であるRoRA(Rank-adaptive Reliability Optimization)を提案する。 RoRAは、ランクサイズが大きくなるにつれて性能が向上し、微調整プルーニングモデルにおける精度回復というより困難な課題を克服する。
  論文  参考訳（メタデータ） (2025-01-08T07:13:52Z)
• LoRA Done RITE: Robust Invariant Transformation Equilibration for LoRA Optimization [78.93425154518705]
  低ランク適応 (LoRA) は、メモリ要求を低減し、LLMのパラメータ効率の高い微調整法である。 本稿では,LoRA最適化のための適応行列プレコンディショニング手法であるLoRA-RITEを紹介する。
  論文  参考訳（メタデータ） (2024-10-27T22:57:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。