論文の概要: What Does LALM Post-training Learn? Rethinking Audio Understanding and Reasoning Capabilities
- arxiv url: http://arxiv.org/abs/2610.19476v1
- Date: Wed, 14 Oct 2026 02:54:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.926598
- Title: What Does LALM Post-training Learn? Rethinking Audio Understanding and Reasoning Capabilities
- Title(参考訳): 学習後LALMとは何か : 聴覚理解と推論能力の再考
- Abstract要約: LALMがポストトレーニングから実際に何を学ぶかを検討する。
報告された改善の多くは、インフォメーションオーディオなしでも継続するが、質問形式が変わると、ほとんど消える。
これらの結果から,ポストトレーニングは,一般的な音声理解や推論機能を開発するよりも,タスク固有のテキストの手がかりや回答パターンを活用できるモデルを教えることが多いことが示唆された。
- 参考スコア(独自算出の注目度): 51.991744693790345
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Post-training often improves the performance of large audio-language models on audio understanding and reasoning benchmarks. However, these improvements may reflect adaptation to specific question formats, such as multiple-choice questions, rather than genuine advances in audio understanding and reasoning capabilities. To investigate what LALMs actually learn from post-training, we conduct controlled experiments that disentangle improvements in audio understanding from adaptation to specific question formats. Across different models and post-training methods, we find that much of the reported improvement persists even without informative audio, but largely disappears when the question format changes. These findings suggest that post-training often teaches models to exploit task-specific textual cues and answer patterns rather than developing generalizable audio understanding and reasoning capabilities.
- Abstract(参考訳): ポストトレーニングはしばしば、音声理解と推論のベンチマークにおいて、大きなオーディオ言語モデルの性能を改善する。
しかし、これらの改善は、音声理解と推論能力の真の進歩よりも、複数選択質問のような特定の質問形式への適応を反映する可能性がある。
LALMがポストトレーニングから実際に何を学んだかを調べるため、特定の質問形式への適応から音声理解の改善を阻害する制御実験を行った。
異なるモデルやポストトレーニング手法によって、報告された改善の多くは、情報的オーディオがなくても継続するが、質問形式が変わると、ほとんど消える。
これらの結果から,ポストトレーニングは,一般的な音声理解や推論機能を開発するよりも,タスク固有のテキストの手がかりや回答パターンを活用できるモデルを教えることが多いことが示唆された。
関連論文リスト
- Tracing Audio Grounding and Answer Selection in Audio LLMs [32.37191232040775]
一般的な治療法は、回答がテキストのみから推測できないデータ上でモデルをトレーニングすることである。
私たちは、音声が実際に答えを決定するために、モデル内で何が起こらなければならないのかを尋ねます。
論文 参考訳(メタデータ) (2026-09-04T02:16:45Z) - From Alignment to Advancement: Bootstrapping Audio-Language Alignment with Synthetic Data [55.2480439325792]
音声対応の大規模言語モデル(ALLM)は近年,音声入力の理解と処理において大きな進歩を遂げている。
これらのモデルは典型的にはテキストベースの大規模言語モデル(LLM)に適応し、音声関連タスクのさらなるトレーニングを行う。
本研究では、現在と欠落した音を区別するALLMの能力を高めるために、コントラッシブな訓練データを生成するデータ生成フレームワークを提案する。
論文 参考訳(メタデータ) (2025-05-26T16:08:41Z) - Teaching Audio-Aware Large Language Models What Does Not Hear: Mitigating Hallucinations through Synthesized Negative Samples [55.2480439325792]
近年の音声対応大型言語モデル(ALLM)により、音声入力の処理と理解が可能になった。
これらのモデルは、しばしば既存の音響イベントを幻覚させ、現実の応用における信頼性を低下させる。
LISTENは、現在と欠落した音を識別するallMsの能力を向上するコントラスト的な訓練法である。
論文 参考訳(メタデータ) (2025-05-20T15:44:01Z) - Enhancing Temporal Understanding in Audio Question Answering for Large Audio Language Models [0.9285295512807729]
AQA(Audio Question Answering)タスクには、オーディオイベント分類、オーディオキャプション、オープンエンド推論が含まれる。
LALMは一般的な音声理解では優れているが、時間的推論では限られている。
本稿では,音声時間的推論におけるこれらの課題と限界について述べる。
論文 参考訳(メタデータ) (2024-09-10T05:26:53Z) - RECKONING: Reasoning through Dynamic Knowledge Encoding [51.076603338764706]
言語モデルは、文脈の一部として提供される知識について推論することで、質問に答えることができることを示す。
これらの状況では、モデルは質問に答えるために必要な知識を区別することができない。
我々は、与えられた文脈知識をモデルのパラメータに折り畳み、より堅牢に推論するようにモデルに教えることを提案する。
論文 参考訳(メタデータ) (2023-05-10T17:54:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。