論文の概要: Transcript-Supervised Post-Training of Generative Speech Enhancement on Real Recordings via Reinforce Adjoint Matching
- arxiv url: http://arxiv.org/abs/2609.29405v1
- Date: Thu, 24 Sep 2026 11:30:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-25 21:10:09.876137
- Title: Transcript-Supervised Post-Training of Generative Speech Enhancement on Real Recordings via Reinforce Adjoint Matching
- Title(参考訳): Reinforce Adjoint Matching による実録音における生成音声強調の経時的改善
- Abstract要約: 報酬に基づくポストトレーニング手法であるReinforce Adjoint Matching (RAM) を生成音声強調(SE)に適用する。
トレーニング中、現在のモデルでは、強化された音声を政治上で生成し、終端を解析的に再ノイズ化し、報酬誘導回帰目的のための入力を構築する。
単語誤り率(WER)に基づく後学習について検討し,知覚音声の品質を損なうことなく認識性能を向上させることができるかを検討した。
- 参考スコア(独自算出の注目度): 48.162682645785644
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We adapt Reinforce Adjoint Matching (RAM), a reward-based post-training method, to generative speech enhancement (SE). Starting from a pretrained SE model, RAM tilts the model's conditional distribution toward outputs with higher reward. During training, the current model generates enhanced speech on-policy, evaluates each generated endpoint with a potentially non-differentiable reward, and analytically re-noises the endpoint to construct inputs for a reward-guided regression objective. This enables post-training directly on real recordings using weak supervision, such as text transcripts, without requiring paired clean speech targets or reward gradients. We investigate word error rate (WER)-based post-training and whether recognition performance can be improved without compromising perceptual speech quality. Experiments on real CHiME-4 recordings reduce WER by 5.08 percentage points relative to pretrained FlowSE without reducing any of the reported non-intrusive speech quality metrics. A subjective listening test at the default reward scale finds no statistically significant preference between the post-trained and pretrained models.
- Abstract(参考訳): 報酬に基づく後学習手法であるReinforce Adjoint Matching (RAM) を生成音声強調(SE)に適用する。
事前訓練されたSEモデルから始めて、RAMはモデルの条件分布をより高い報酬で出力に傾ける。
トレーニング中、現在のモデルは、強化された音声オンポシーを生成し、潜在的に微分不可能な報酬で各生成されたエンドポイントを評価し、そのエンドポイントを解析的に再ノイズ化し、報酬誘導回帰目的のための入力を構築する。
これにより、ペアのクリーンなスピーチターゲットや報酬勾配を必要とせずに、テキストの書き起こしなどの弱い監督を用いて、実際の録音を直接トレーニングすることができる。
単語誤り率(WER)に基づく後学習について検討し,知覚音声の品質を損なうことなく認識性能を向上させることができるかを検討した。
実際のCHiME-4の録音実験では、WERが事前訓練されたFlowSEと比較して5.08ポイント減少し、報告された非侵襲的な音声品質の指標は低下しない。
既定の報奨尺度における主観的聴取テストでは、訓練後のモデルと事前訓練後のモデルの間に統計的に有意な選好が見つからない。
関連論文リスト
- Test-time adaptation for speech enhancement with an autoregressive speech prior [40.592330125629644]
テスト時間適応(TTA)は、不一致音環境下での音声強調モデルを改善するための有望な方向を提供する。
本稿では,ニューラルオーディオから抽出したクリーン音声の潜在表現に基づいて事前学習した自己回帰モデルを用いて,事前学習した音声強調モデルを正規化する単一発話TTA手法を提案する。
論文 参考訳(メタデータ) (2026-09-03T10:10:23Z) - When Does Predictor-Based RL Align with Human Perception? A Study of Subjective Rewards in Codec-Based Speech Language Models [6.949453644640367]
Codec-based text-to-speech (TTS) モデルは、言語モデルポストトレーニングを音声生成に適用する。
学習した知覚予測者が、人間の聴取者との整合性を失うことなく、強化学習報酬として機能するかは、まだ不明である。
本研究では,アニメのような話し方,自然性,自由度,覚醒性について学習報酬を用いて検討する。
論文 参考訳(メタデータ) (2026-08-31T16:14:54Z) - REER-PT: Reverse-Engineered Reasoning for Perplexity-Guided Pre-training Data Augmentation [64.84437332310516]
我々は,Reverse-Engineered Reasoning (REER) を生の事前学習データに拡張するスケーラブルなフレームワークである textbfREER-PT を紹介する。
REER-PTは予測が難しいが、それ以前のコンテキストから推論できる継続を識別し、コンテキストと継続の間の欠落した接続を再構築する簡潔な推論アノテーションを挿入する。
このスパース変換は、ソーステキストを保存し、トレーニング前のオンライン推論ロールアウトを避けることで、標準的な次世代の予測と互換性を維持します。
論文 参考訳(メタデータ) (2026-08-31T11:34:19Z) - Reinforce Adjoint Matching: Scaling RL Post-Training of Diffusion and Flow-Matching Models [44.082049677105964]
拡散およびフローマッチングモデルは、事前学習が監督された回帰であるため、スケールする。
この構造がRLポストトレーニングにまで拡張されていることを示す。
KL-正規化報酬の下では、最適生成過程はより高い報酬を持つ試料に対してクリーンエンドポイント分布を傾ける。
Reinforce Adjoint Matching (RAM: Reinforce Adjoint Matching) を導出します。
論文 参考訳(メタデータ) (2026-05-11T15:56:29Z) - NoiseRater: Meta-Learned Noise Valuation for Diffusion Model Training [81.58321000203712]
NoiseRaterは、拡散モデルトレーニングにおけるインスタンスレベルのノイズ評価のためのメタラーニングフレームワークである。
NoiseRaterは、重要度スコアをデータとタイムステップで条件付けられた個々のノイズ実現に割り当てる。
FFHQとImageNetの実験では、すべてのノイズサンプルが等しく寄与するわけではない。
論文 参考訳(メタデータ) (2026-05-02T19:43:16Z) - Leveraging Prediction Entropy for Automatic Prompt Weighting in Zero-Shot Audio-Language Classification [19.724558192829093]
本稿では,予測信頼度を最大化するために,コントリビューションの頑健な組み合わせを見つけることを目的としたエントロピー誘導型プロンプト重み付け手法を提案する。
我々の手法は個々のサンプルやオーディオサンプルに応用でき、追加のラベルを必要とせず、無視できる計算オーバーヘッドを発生させる。
論文 参考訳(メタデータ) (2026-01-08T15:11:04Z) - RLP: Reinforcement as a Pretraining Objective [103.45068938532923]
我々は,情報駆動型強化事前訓練の目的として,強化学習のコアスピリットである探索を,事前訓練の最終段階に導くことを提案する。
このトレーニングの目的は、モデルが次に何が起こるかを予測する前に、自分自身で考えることを奨励し、事前学習の早い段階で独立した思考行動を教えることである。
特に、RLPは、通常のテキストにおける事前学習対象としての推論のための強化学習を再構築し、次のトーケン予測と有用な連鎖推論の出現の間のギャップを埋める。
論文 参考訳(メタデータ) (2025-09-26T17:53:54Z) - Rethinking Classifier Re-Training in Long-Tailed Recognition: A Simple
Logits Retargeting Approach [102.0769560460338]
我々は,クラスごとのサンプル数に関する事前知識を必要とせず,シンプルなロジットアプローチ(LORT)を開発した。
提案手法は,CIFAR100-LT, ImageNet-LT, iNaturalist 2018など,様々な不均衡データセットの最先端性能を実現する。
論文 参考訳(メタデータ) (2024-03-01T03:27:08Z) - Pre-training Is (Almost) All You Need: An Application to Commonsense
Reasoning [61.32992639292889]
事前学習されたトランスモデルの微調整は、一般的なNLPタスクを解決するための標準的なアプローチとなっている。
そこで本研究では,可視性ランキングタスクをフルテキスト形式でキャストする新たなスコアリング手法を提案する。
提案手法は, ランダム再起動にまたがって, より安定した学習段階を提供することを示す。
論文 参考訳(メタデータ) (2020-04-29T10:54:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。