論文の概要: Listen Then Reason: Perception-Grounded Test-Time Reinforcement Learning for Large Audio-Language Models
- arxiv url: http://arxiv.org/abs/2609.23589v1
- Date: Sun, 20 Sep 2026 12:12:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-23 18:04:03.938376
- Title: Listen Then Reason: Perception-Grounded Test-Time Reinforcement Learning for Large Audio-Language Models
- Title(参考訳): 聴取と推論:大規模音声言語モデルに対する知覚囲い込みテスト時間強化学習
- Abstract要約: 推論過程において、音声情報がどのように統合され、活用されるかを示す。
ラベルのないテスト時間最適化を知覚的根拠に基づく推論と整合させるために, Perception-Grounded TTRL (PG-TTRL)を提案する。
- 参考スコア(独自算出の注目度): 23.80840030172631
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Large audio-language models (LALMs) are increasingly used for a broader range of audio reasoning tasks. These models typically incorporate audio representations into a large language model (LLM) backbone to enable multimodal reasoning. Recent test-time reinforcement learning (TTRL) methods further improve LLM reasoning capability by leveraging unlabelled test data after pre-training. However, the importance of the perceptual capability of LALMs remains underexplored, particularly how much acoustic evidence is integrated and relied upon during reasoning, and how this contributes to final task performance. This gap limits the development of effective post-training methods like TTRL for audio reasoning. In this work, we first analyse how audio information is integrated and utilised during reasoning process. We quantify layer-wise perceptual reliance and show that stronger acoustic reliance is associated with higher accuracy and a larger performance gain attributable to the audio input. Building on this, we propose Perception-Grounded TTRL (PG-TTRL), which aligns label-free test-time optimisation with perceptually grounded reasoning, encouraging the model to structure its reasoning more strongly on the audio input. Experiments across LALMs and benchmarks show that PG-TTRL consistently improves reasoning performance over both the base models and standard TTRL, showing the value of perceptual-grounding optimisation for test-time audio reasoning.
- Abstract(参考訳): 大規模な音声言語モデル(LALM)は、より広範囲の音声推論タスクに使われている。
これらのモデルは通常、マルチモーダル推論を可能にするために、音声表現を大きな言語モデル(LLM)のバックボーンに組み込む。
近年の試験時間強化学習 (TTRL) 法では, 事前学習後の未学習試験データを活用することにより, LLM推論能力の向上が図られている。
しかし、LALMの知覚能力の重要性はいまだ未解明であり、特に音響的証拠がどの程度統合され、推理中に頼りにされているか、これが最終作業性能にどのように貢献するかが研究されている。
このギャップは、音声推論のためのTTRLのような効果的な後学習方法の開発を制限する。
本研究では、まず、推論過程において、音声情報がどのように統合され、活用されるかを分析する。
層単位での知覚的信頼度を定量化し、より強い音響的信頼度がより高い精度と、オーディオ入力に起因するより大きな性能向上に結びついていることを示す。
そこで我々は,ラベルのないテスト時間最適化を知覚的根拠に基づく推論と整合させるPerception-Grounded TTRL (PG-TTRL)を提案する。
LALMとベンチマークによる実験では、PG-TTRLはベースモデルと標準TRLの両方で推論性能を一貫して改善し、テスト時間オーディオ推論における知覚的グラウンド最適化の価値を示している。
関連論文リスト
- Audio-DeepThinker: Progressive Reasoning-Aware Reinforcement Learning for High-Quality Chain-of-Thought Emergence in Audio Language Models [33.669071786618495]
既存の音声推論の手法は、教師付きチェーン・オブ・ファインチューニングや強化学習に依存している。
本稿では,2つの中核的アイデアに基づくフレームワークであるAudio-DeepThinkerを提案する。
ステージ1は基本的音響QAを訓練し、基本的推論パターンを育成し、ステージ2は音響的に挑戦的な境界ケースにシフトする。
Audio-DeepThinkerはMMAR(74.0%)、MMAU-test-mini(78.5%)、MMSU(77.26%)の最先端結果を達成する
論文 参考訳(メタデータ) (2026-04-20T12:43:00Z) - When Scaling Fails: Mitigating Audio Perception Decay of LALMs via Multi-Step Perception-Aware Reasoning [49.28390630057018]
構造化推論軌道のポストトレーニングモデルは、直接応答のポストトレーニングと比較して、限界あるいは負の利得をもたらす。
MPAR$2$は、動的知覚的推論を奨励し、複雑な質問を知覚に富んだサブプロブレムに分解するパラダイムである。
論文 参考訳(メタデータ) (2026-02-28T12:54:51Z) - An Evaluation of Interleaved Instruction Tuning on Semantic Reasoning Performance in an Audio MLLM [15.340075567628466]
本研究は,プロンプト内で音声トークンをインターリーブするMLLMにおいて,インターリーブド・インストラクション・チューニングが与える影響について検討した。
その結果,ゼロショットインターリーブでも推論タスクの性能は向上するが,微調整が少なすぎると結果がさらに改善することがわかった。
論文 参考訳(メタデータ) (2025-11-04T03:54:55Z) - Incentivizing Consistent, Effective and Scalable Reasoning Capability in Audio LLMs via Reasoning Process Rewards [24.40159537923851]
音声大言語モデルにおけるロバストでスケーラブルな推論法を開発するための原理的手法を開発した。
MMAU 2.5 Pro と GPT-4o Audio をほぼ上回り、MMSU の推論タスクにおけるほぼ人間レベルの性能を向上する。
論文 参考訳(メタデータ) (2025-10-23T06:18:10Z) - Thinking with Sound: Audio Chain-of-Thought Enables Multimodal Reasoning in Large Audio-Language Models [49.097347801692166]
本稿では,Large Audio-Language ModelsとAudio CoTを併用したThinking-with-Sound(TwS)を提案する。
TwSにより、モデルは音声信号で積極的に考えることができ、数値解析やマルチモーダル推論によるデジタル操作を行うことができる。
実験によると、最先端のLALMはMELD-Hard1kで劇的に性能が低下しており、クリーンオーディオに比べて精度が50%以上低下している。
論文 参考訳(メタデータ) (2025-09-26T01:27:59Z) - Audio-Thinker: Guiding Audio Language Model When and How to Think via Reinforcement Learning [46.89219923892907]
大規模音声言語モデル(LALM)の推論能力を高めるための強化学習フレームワークであるAudio-Thinkerを提案する。
提案手法は適応的思考精度報酬を導入し,タスクに基づいた推論戦略を動的に調整する。
実験の結果,Audio-Thinkerモデルは,様々なベンチマークタスクにおいて,既存の推論指向のLALMよりも優れていた。
論文 参考訳(メタデータ) (2025-08-11T14:41:10Z) - Teaching Audio-Aware Large Language Models What Does Not Hear: Mitigating Hallucinations through Synthesized Negative Samples [55.2480439325792]
近年の音声対応大型言語モデル(ALLM)により、音声入力の処理と理解が可能になった。
これらのモデルは、しばしば既存の音響イベントを幻覚させ、現実の応用における信頼性を低下させる。
LISTENは、現在と欠落した音を識別するallMsの能力を向上するコントラスト的な訓練法である。
論文 参考訳(メタデータ) (2025-05-20T15:44:01Z) - Audio-Reasoner: Improving Reasoning Capability in Large Audio Language Models [91.11904427660043]
本稿では,音声タスクの深い推論のための大規模音声言語モデルであるAudio-Reasonerを紹介する。
我々は、CoTA上でAudio-Reasonerを訓練し、オーディオ推論において優れた論理的機能を実現する。
以上の結果から,音声推論における構造化CoTトレーニングのコアが強調された。
論文 参考訳(メタデータ) (2025-03-04T06:18:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。