論文の概要: Reward-Tilted On-Policy Distillation for Acoustic Grounding in Audio-Language Models
- arxiv url: http://arxiv.org/abs/2609.28778v1
- Date: Wed, 23 Sep 2026 20:43:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-25 21:10:09.550151
- Title: Reward-Tilted On-Policy Distillation for Acoustic Grounding in Audio-Language Models
- Title（参考訳）: 音声言語モデルにおける音響接地のための逆処理オン・ポリシィ蒸留法
- Abstract要約: 音声言語モデル(ALM)は、音声の理解を弱めながら、テキストのショートカットを利用して質問に答える。
音響接地性を高めるために, RT-OPD (Reward-Tilted On-Policy Distillation) を提案する。
我々の3BモデルはMMAUで72.72%の精度を達成し、MMAUは比較された3Bモデルの中で最高であり、いくつかの7Bモデルと8Bモデルと競合する。
- 参考スコア（独自算出の注目度）: 14.758953449150262
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Audio-language models (ALMs) can exploit textual shortcuts to answer questions while overlooking acoustic evidence, weakening audio understanding. On-policy distillation (OPD) trains compact ALMs by supervising student-generated responses with teacher predictions, but does not explicitly distinguish acoustic support from linguistic predictability. We propose Reward-Tilted On-Policy Distillation (RT-OPD) to strengthen acoustic grounding. Given the same question and student-generated text, a frozen teacher predicts the next token with and without audio inputs. Their log-probability contrast defines a reward that reshapes the teacher distribution for reverse-KL distillation, emphasizing the additional evidence provided by audio. Across two compact students and three benchmarks, RT-OPD consistently outperforms Vanilla OPD. Experiments with silenced and replacement audio further suggest that RT-OPD strengthens the student's reliance on acoustic evidence. Our 3B model achieves 72.72% accuracy on MMAU, the highest among the compared 3B models and competitive with several 7B and 8B models. Code and model checkpoints are available at https://github.com/KaiyangLi1992/RT-OPD.
- Abstract（参考訳）: 音声言語モデル(ALM)は、音声の理解を弱めながら、テキストのショートカットを利用して質問に答える。
オンライン蒸留(OPD)は、教師の予測で生徒が生成した応答を監督することで、コンパクトなALMを訓練するが、言語的予測可能性と音響的支援を明確に区別するものではない。
音響接地性を高めるために, RT-OPD (Reward-Tilted On-Policy Distillation) を提案する。
同じ質問と学生生成テキストが与えられた後、凍結した教師は音声入力なしで次のトークンを予測する。
対数確率のコントラストは、教師の分散を逆KL蒸留で再評価する報酬を定義し、オーディオが提供する追加のエビデンスを強調している。
2人のコンパクトな学生と3つのベンチマークで、RT-OPDは一貫してバニラPDを上回っている。
沈黙と代替音声による実験は、RT-OPDが音響的証拠への依存を強化することを示唆している。
我々の3BモデルはMMAUで72.72%の精度を達成し、MMAUは比較された3Bモデルの中で最高であり、いくつかの7Bモデルと8Bモデルと競合する。
コードとモデルチェックポイントはhttps://github.com/KaiyangLi 1992/RT-OPD.comで入手できる。
関連論文リスト
- Reinforcement Learning with Evolving Rubrics as Rewards for Audio Reasoning [57.5472764796581]
本稿では,自己進化型報酬で音声推論を監督する強化学習フレームワークであるAudioRubricsを紹介する。
AudioRubricsは、サンプルごとのルーブリックを生波形から合成し、モデル自身のロールアウト、再生、グループごとのリウェイト基準で条件付けする。
解析の結果,ジェネレータと判定器の能力でゲインがスケールし,AudioRubricsは安定な推論長に収束し,縮退と成長の両面を回避できることがわかった。
論文 参考訳（メタデータ） (2026-08-03T19:46:13Z) - EviSD: Evidence-Conditioned Self-Distillation for Search-Augmented Agents [28.95182429824442]
我々はエビデンス条件の自己蒸留フレームワークであるEviSDを提案する。
検索アクションや黄金の回答のための特権情報として、インスタンスレベルのサポートエビデンスを使用している。
EviSDは、評価されたすべての設定において、マクロ平均のExact Matchを最高に達成する。
論文 参考訳（メタデータ） (2026-08-02T16:22:27Z) - Visual Contrastive Self-Distillation [61.298159957622886]
本稿では,視覚的コントラスト自己蒸留法を提案する。
これと対照的に,本研究では,教師の具体的イメージ分布の明確化を図り,その結果のフルディストリビューション目標を学生に蒸留する。
論文 参考訳（メタデータ） (2026-07-23T17:37:37Z) - OPOD: On-Policy Omni Distillation [55.440058537827134]
プール化されたマルチモーダルデータ上で単一のモデルをトレーニングすることは、個々のモダリティに特化したモデルにマッチしないことが多い。
本報告では,オムニ蒸留法(Omni Distillation,OPD)について述べる。
OPDは各スケールで最高のスコアを獲得し、70.8、51.7、46.2に達した。
論文 参考訳（メタデータ） (2026-07-23T04:55:04Z) - EchoDistill:Alignment Noisy-to-Clean Self-Distillation for Robust Audio LLMs [43.824076052614835]
Echodistillはアライメントベースのノイズからクリーンな自己蒸留フレームワークである。
複雑な雑音下でのAudio Large Language Modelのセマンティックな信頼性とタスク性能を大幅に改善する。
論文 参考訳（メタデータ） (2026-05-11T06:30:25Z) - Beyond Transcription: Unified Audio Schema for Perception-Aware AudioLLMs [53.41256816230278]
最近のオーディオ大言語モデル(AudioLLMs)は、顕著な性能逆転を示す。
複雑な推論タスクには優れるが、音の微妙な知覚では一貫して性能が劣る。
音声情報を3つの明示的な構成要素に整理する総合的かつ構造化された監視フレームワークであるUnified Audio (UAS)を提案する。
論文 参考訳（メタデータ） (2026-04-14T09:30:12Z) - Teaching Audio Models to Reason: A Unified Framework for Source- and Layer-wise Distillation [52.537908557508324]
本研究では,高容量テキストモデルから学生音声モデルへの推論能力を伝達するための統合知識蒸留フレームワークを提案する。
本手法では, ソースワイド蒸留と層ワイド蒸留という2つの重要な次元を導入する。
実験結果から,音声推論性能は著しく向上した。
論文 参考訳（メタデータ） (2025-09-23T02:58:16Z) - Multi-Stage Speaker Diarization for Noisy Classrooms [1.4549461207028445]
本研究では,NvidiaのNeMoダイアリゼーションパイプラインを用いた多段ダイアリゼーションモデルの有効性を検討した。
ダイアリゼーション精度に対する聴覚の影響を評価し,様々な音声活動検出モデルを比較した。
また、フレームレベルのVAD予測と自動音声認識(ASR)ワードレベルのタイムスタンプを統合するハイブリッドVAD手法についても検討する。
論文 参考訳（メタデータ） (2025-05-16T05:35:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。