論文の概要: Select or Rewrite: Oracle-Guided Fine-Tuning for Generative ASR Post-Editing from N-Best Hypotheses
- arxiv url: http://arxiv.org/abs/2610.15056v1
- Date: Sat, 10 Oct 2026 16:48:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.147168
- Title: Select or Rewrite: Oracle-Guided Fine-Tuning for Generative ASR Post-Editing from N-Best Hypotheses
- Title(参考訳): Select or Rewrite: N-Best仮説から生成するASRポスト編集のためのOracle-Guided Fine-Tuning
- Abstract要約: 大規模な言語モデルは、言語コンテキストを用いて必要に応じて書き直しを行い、認識器を再訓練することなくWERを改善することで、ASRを後編集することができる。
我々は、Nベストリストを3つのキュレートされたプールを通して監督するオラクル誘導微調整を提案する。
このデータの微調整は、ハイブリッドセレクトまたはリライトポリシーを学ぶためのランダムサブセットの微調整よりも効果的な監督を提供する。
- 参考スコア(独自算出の注目度): 4.119525929355908
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Large language models can post-edit ASR by using linguistic context to compare N-best hypotheses and rewrite the transcript when needed, often improving WER without retraining the recognizer. However, prompt-only correction is brittle: it may over-edit when top-1 is correct and hallucinate when the reference is absent, and often needs very large models. We propose oracle-guided fine-tuning that turns N-best lists into supervision via three curated pools: corrections (reference in the list but not top-1) to teach selection, regularizers (top-1 correct) to discourage unnecessary rewrites, and hard negatives (reference absent) to suppress hallucination. Fine-tuning on this data provides more effective supervision than random subset fine-tuning for learning a hybrid select-or-rewrite policy, with the clearest gains from around 3B parameters on the proprietary dataset but less conclusive results on CommonVoice, a divergence suggesting that public read-speech text may overlap with LLM pretraining and mask genuine post-editing gains.
- Abstract(参考訳): 大規模言語モデルは言語文脈を用いてN-best仮説を比較し、必要に応じて書き直しを行うことでASRを後編集することができる。
しかし、プロンプトのみの修正は不安定であり、トップ-1が正しいときに過剰に編集され、参照がないときに幻覚し、しばしば非常に大きなモデルを必要とする。
我々は,N-bestリストを3つのキュレートされたプールを通じて監督するオラクル誘導微調整を提案し,選択を指導するための補正(トップ-1ではなく参照),不要な書き直しを阻止するための正規化器(トップ-1正しい),幻覚を抑制するためのハードネガティブ(参照なし)を提案する。
このデータの微調整は、プロプライエタリなデータセット上の約3Bパラメータから最も明確なゲインを得られるが、CommonVoiceでは決定的な結果が少ないため、ランダムなサブセットの微調整よりも効果的な監視を提供する。
関連論文リスト
- Larger Context Window, Fewer Overcorrections: Optimizing Prompts and Batching for Minimal-Edit Grammatical Error Correction [0.0]
Minimal-edmatical Error Correction (GEC) はゼロショットおよび少数ショット誘発大言語モデル(LLM)の課題である。
本稿では, GECプロンプト手法の3つの進歩を通じて, 微調整モデルとのギャップを埋めるプロンプトベースのアプローチを提案する。
Gemini 3.1Proによって、我々のプロンプト$F_0.5=78.32$は、新しいプロンプトベースのSOTAを達成すると同時に、微調整された単一モデルSOTAへのギャップを0.38$ポイントに縮める。
論文 参考訳(メタデータ) (2026-09-09T20:24:48Z) - Beyond Supervised Clarification: Input Rewriting with LLMs for Dialogue Discourse Parsing [16.51635619165348]
フリーズダウンストリームモデルを改善するために入力を書き換えることは、現代のNLPパイプラインにおいて一般的な戦略となっている。
本研究では,この考え方を現実的な展開条件下で再検討する。
最高の8個の書き直し分析では、実際の天井が示され、多くのエラーは入力だけでは修復できない。
論文 参考訳(メタデータ) (2026-07-02T09:57:52Z) - PrefixNLI: Detecting Factual Inconsistencies as Soon as They Arise [60.63315470285562]
MiniTruePrefixesは、テキストプレフィックスよりも事実上の矛盾をよりよく検出する、新しい特殊モデルである。
制御されたデコードフレームワークにMiniTruePrefixesを組み込むことで,抽象的な要約における現実の一貫性が大幅に向上することを示す。
論文 参考訳(メタデータ) (2025-11-03T09:07:44Z) - Reinforcement Learning with Verifiable yet Noisy Rewards under Imperfect Verifiers [90.50039419576807]
RLVR(Reinforcement Learning with Verifiable Rewards)は、人為的なラベル付けを避けるために、自動検証に対するポリシーを訓練する。
認証ハッキングの脆弱性を軽減するため、多くのRLVRシステムはトレーニング中にバイナリ$0,1$の報酬を破棄する。
この選択にはコストがかかる:textitfalse negatives(正しい回答、FNを拒絶)とtextitfalse positives(間違った回答、FPを受け入れる)を導入する。
論文 参考訳(メタデータ) (2025-10-01T13:56:44Z) - Listen Again and Choose the Right Answer: A New Paradigm for Automatic Speech Recognition with Large Language Models [41.997517537042434]
大言語モデル(LLM)は自動音声認識(ASR)のための生成誤り訂正(GER)を促進した
本稿では,ASR生成誤り訂正のための新しいパラダイムであるClozeGERを提案する。
論文 参考訳(メタデータ) (2024-05-16T12:05:45Z) - RLVF: Learning from Verbal Feedback without Overgeneralization [94.19501420241188]
本稿では,このような過度な一般化を伴わずに,言語フィードバックを取り入れることの課題について検討する。
制約付き選好最適化(C3PO)を用いた新しい文脈的批評手法を開発した。
提案手法は,他の文脈に対する既存行動を維持しながら,関連するシナリオに対して効果的な言語フィードバックを適用する。
論文 参考訳(メタデータ) (2024-02-16T18:50:24Z) - HyPoradise: An Open Baseline for Generative Speech Recognition with
Large Language Models [81.56455625624041]
ASRの誤り訂正に外部の大規模言語モデル(LLM)を利用する最初のオープンソースベンチマークを導入する。
提案したベンチマークには、334,000組以上のN-best仮説を含む新しいデータセットHyPoradise (HP)が含まれている。
合理的なプロンプトと生成能力を持つLLMは、N-bestリストに欠けているトークンを修正できる。
論文 参考訳(メタデータ) (2023-09-27T14:44:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。