論文の概要: TARQ: Tail-Aware Reconstruction Quantization for Rare-Word Robust Automatic Speech Recognition
- arxiv url: http://arxiv.org/abs/2605.27808v1
- Date: Wed, 27 May 2026 00:57:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-28 17:38:55.659273
- Title: TARQ: Tail-Aware Reconstruction Quantization for Rare-Word Robust Automatic Speech Recognition
- Title(参考訳): TARQ:希少単語ロバスト音声認識のためのタイルアウェア再構成量子化
- Abstract要約: textbfTail-Aware Reconstruction Quantization (TARQ)は、レキシカルテールにキャリブレーションをシフトするラベルフリーのPTQフレームワークである。
TARQは、エンティティラベル、キュレートされたキャリブレーションセット、バリデーションの復号化、追加のトレーニングを必要としない。
W4G128の8つのASRバックボーンと6つのデータセットに対して、TARQはアグリゲート-WERレグレッションなしで平均レアなtextbfWord textbfError textbfRate(rare-WER)を改善している。
- 参考スコア(独自算出の注目度): 11.986283041108692
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Data-aware post-training quantization (PTQ) minimizes a per-token reconstruction loss on a small calibration corpus, implicitly weighting positions by their empirical frequency. For \textbf{A}utomatic \textbf{S}peech \textbf{R}ecognition (ASR), this misaligns with tail-sensitive risk: names, numerals, and domain-specific words receive proportionally little calibration mass. We propose \textbf{Tail-Aware Reconstruction Quantization} (\TARQ), a label-free PTQ framework that shifts calibration toward the lexical tail via \textbf{\rareBAL}, a closed-form per-Linear-layer rule equalizing common/tail mass, paired with a metric-consistent residual correction. \TARQ\ requires no entity labels, no curated calibration set, no validation decoding, and no additional training. Across eight ASR backbones and six datasets at W4G128, \TARQ\ improves mean rare-\textbf{W}ord \textbf{E}rror \textbf{R}ate (rare-WER) without an aggregate-WER regression, achieves the lowest cross-corpus rare-WER swing among compared methods, and transfers to entity-rich benchmarks (ProfASR, ContextASR-Speech-En) without entity supervision.
- Abstract(参考訳): PTQ(Data-Aware post-training Quantization)は、小さなキャリブレーションコーパス上のトーケン毎の再構成損失を最小限に抑え、その経験周波数によって暗黙的に位置を重み付けする。
textbf{A}utomatic \textbf{S}peech \textbf{R}ecognition (ASR) では、名前、数字、ドメイン固有の単語は比例的にキャリブレーション質量が小さい。
そこで本稿では, 正則化をレキシカルテールにシフトするラベルフリーPTQフレームワークである \textbf{Tail-Aware Reconstruction Quantization} (\TARQ) を提案する。
TARQ\は、エンティティラベル、キュレートされたキャリブレーションセット、バリデーションデコード、追加のトレーニングを必要としない。
W4G128の8つのASRバックボーンと6つのデータセットにより、平均的なレア-\textbf{W}ord \textbf{E}rror \textbf{R}ate (rare-WER)がアグリゲート-WERレグレッションなしで改善され、比較したメソッドの中で最低のクロスコーパスレア-WERスウィングを実現し、エンティティリッチベンチマーク(ProfASR、ContextASR-Speech-En)にエンティティ管理なしで転送される。
関連論文リスト
- REER-PT: Reverse-Engineered Reasoning for Perplexity-Guided Pre-training Data Augmentation [64.84437332310516]
我々は,Reverse-Engineered Reasoning (REER) を生の事前学習データに拡張するスケーラブルなフレームワークである textbfREER-PT を紹介する。
REER-PTは予測が難しいが、それ以前のコンテキストから推論できる継続を識別し、コンテキストと継続の間の欠落した接続を再構築する簡潔な推論アノテーションを挿入する。
このスパース変換は、ソーステキストを保存し、トレーニング前のオンライン推論ロールアウトを避けることで、標準的な次世代の予測と互換性を維持します。
論文 参考訳(メタデータ) (2026-08-31T11:34:19Z) - Invertible Logits Transformation for Accuracy-Preserving Post-Hoc Uncertainty Calibration [10.333478793903724]
理想的な校正器は、非線形の誤校正を補正し、大きなラベル空間に優雅にスケールし、元の予測を保存する必要がある。
InvLTは、標準キャリブレーション基準の幅広いポストホックベースラインを一貫して上回っている。
論文 参考訳(メタデータ) (2026-08-11T02:08:05Z) - Right Reset: Chunking by Prefix Removal [0.0]
右隠れ状態軌跡の保存を計測する右リセットを導入する。
平らなテキストでは、RRはオリジナルのレコードの47.7%をクリーン単位として回収し、BGE埋め込み境界は25.9%である。
6つの言語モデル全体で、RR選択されたカットは、未選択の候補エッジよりも局所的な出力破壊が一貫して少ない。
論文 参考訳(メタデータ) (2026-08-05T01:17:12Z) - Towards Joint Quantization and Token Pruning of Vision-Language Models [53.978753457744055]
トークンプルーニングと低ビット量子化は、推論コストの削減を補完する。
我々は、低ビット推論と決定論的視覚トーケンプルーニングを統一する協調量子化&プルーニングフレームワークを提案する。
標準VLMベンチマークの実験では、同じ低ビット状態下でのステージワイドベースラインよりもロバスト性が改善された。
論文 参考訳(メタデータ) (2026-04-19T08:18:29Z) - LATA: Laplacian-Assisted Transductive Adaptation for Conformal Uncertainty in Medical VLMs [61.06744611795341]
医用視覚言語モデル(VLM)は医用画像の強力なゼロショット認識器である。
本研究では,ラプラシアン支援トランスダクティブ・アダプティブ・アダプティブ・アダプティブ・アダプティブ・アダプティブ・アダプティブ・アダプティブ(texttttextbfLATA,ラプラシアン支援トランスダクティブ・アダプティブ・アダプティブ・アダプティブ)を提案する。
texttttextbfLATAは交換性を損なうことなくゼロショット予測をシャープにする。
論文 参考訳(メタデータ) (2026-02-19T16:45:38Z) - CORE: Context-Robust Remasking for Diffusion Language Models [51.59514489363897]
我々は、推論時リビジョンのためのトレーニング不要フレームワークであるContext-Robust Remasking (CORE)を提案する。
静的トークンの確率を信頼するのではなく、COREは、ターゲットとなるマスク付きコンテキストの摂動に対する感受性を示すことによって、コンテキスト不安定なトークンを識別する。
LLaDA-8B-Baseでは、COREは推論とコードベンチマークの間で一貫した改善を行い、計算に適合したベースラインを上回り、MBPPを最大9.2%改善した。
論文 参考訳(メタデータ) (2026-02-04T00:12:30Z) - HyDRA: Hybrid Denoising Regularization for Measurement-Only DEQ Training [2.3995514936240503]
ディープ平衡モデル(Deep Equilibrium、DEQ)は成功したが、典型的には教師付きペア(mathbfx,mathbfy)を必要とする。
我々は、DECトレーニングのための測定専用フレームワークであるHybrid Denoising Regularization Adaptation(Hybrid Denoising Regularization Adaptation)を導入する。
スパースビューCTの実験は、競争力のある再構成品質と高速な推論を示す。
論文 参考訳(メタデータ) (2026-01-03T16:28:05Z) - CARE What Fails: Contrastive Anchored-REflection for Verifiable Multimodal [84.71254539482369]
検証可能な報酬を伴うグループ相対的強化学習(RLVR)は、しばしば、すでに失敗している最も情報に富むデータを浪費する。
エラーを監督するマルチモーダル推論のための,障害中心のポストトレーニングフレームワークであるCAREを提案する。
CAREは正確さを改善し、スムーズさをトレーニングすると同時に、障害からの学習信号のシェアを明示的に増やします。
論文 参考訳(メタデータ) (2025-12-22T16:34:21Z) - Reinforcement Learning with Verifiable yet Noisy Rewards under Imperfect Verifiers [90.50039419576807]
RLVR(Reinforcement Learning with Verifiable Rewards)は、人為的なラベル付けを避けるために、自動検証に対するポリシーを訓練する。
認証ハッキングの脆弱性を軽減するため、多くのRLVRシステムはトレーニング中にバイナリ$0,1$の報酬を破棄する。
この選択にはコストがかかる:textitfalse negatives(正しい回答、FNを拒絶)とtextitfalse positives(間違った回答、FPを受け入れる)を導入する。
論文 参考訳(メタデータ) (2025-10-01T13:56:44Z) - Winning the Pruning Gamble: A Unified Approach to Joint Sample and Token Pruning for Efficient Supervised Fine-Tuning [71.30276778807068]
サンプルプルーニングとトークンプルーニングを戦略的に協調する統合フレームワークを提案する。
Q-Tuningは、トレーニングデータの12.5%しか使用せず、全データSFTベースラインに対する平均38%の改善を実現している。
論文 参考訳(メタデータ) (2025-09-28T13:27:38Z) - Unsupervised Conformal Inference: Bootstrapping and Alignment to Control LLM Uncertainty [49.19257648205146]
生成のための教師なし共形推論フレームワークを提案する。
我々のゲートは、分断されたUPPよりも厳密で安定した閾値を提供する。
その結果は、ラベルのない、API互換の、テスト時間フィルタリングのゲートになる。
論文 参考訳(メタデータ) (2025-09-26T23:40:47Z) - Post-Hoc Split-Point Self-Consistency Verification for Efficient, Unified Quantification of Aleatoric and Epistemic Uncertainty in Deep Learning [5.996056764788456]
不確実性定量化(UQ)は、信頼できる深層学習には不可欠であるが、既存の手法は計算集約的であるか、タスク固有の部分的な見積もりのみを提供する。
本研究では,事前訓練したモデルの変更や再訓練を伴わずに,アレタリックおよびてんかんの不確実性を共同でキャプチャするポストホック・シングルフォワード・パス・フレームワークを提案する。
提案手法は,EmphSplit-Point Analysis (SPA) を用いて,予測残差を上下サブセットに分解し,各側でEmphMean Absolute Residuals (MAR) を演算する。
論文 参考訳(メタデータ) (2025-09-16T17:16:01Z) - Spelling Correction through Rewriting of Non-Autoregressive ASR Lattices [8.77712061194924]
本稿では,トランスフォーマーを用いたCTCモデルにより生成されたワードピース格子を書き換える有限状態トランスデューサ(FST)手法を提案する。
本アルゴリズムは,単語から音素への変換を直接行うため,明示的な単語表現を避けることができる。
文脈関連エンティティを用いたテストにおいて, 文誤り率(SER)の15.2%の相対的低減を実現した。
論文 参考訳(メタデータ) (2024-09-24T21:42:25Z) - Retraining with Predicted Hard Labels Provably Increases Model Accuracy [77.71162068832108]
リトレーニングは、与えられた(ノイズの多い)ラベルで最初にトレーニングすることで得られる人口の精度を向上させることができる。
予測ラベルが与えられたラベルにマッチするサンプルを選択的に再トレーニングすることで、余分なプライバシコストを伴わずにラベルDPトレーニングを大幅に改善できることを実証的に示す。
論文 参考訳(メタデータ) (2024-06-17T04:53:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。