論文の概要: Long Listening Thoughts: Eliciting Open Auditory Reasoning with Deliberative Perception and Cognitive Refinement

• arxiv url: http://arxiv.org/abs/2610.24409v1
• Date: Sat, 17 Oct 2026 03:20:36 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-10-20 11:54:56.628386
• Title: Long Listening Thoughts: Eliciting Open Auditory Reasoning with Deliberative Perception and Cognitive Refinement
• Title（参考訳）: ロングリスニング思考: 認知的認知と認知的記憶を伴うオープンオーディショニング
• Abstract要約: Long Listening Thoughts (LLT)は、音声推論を改善するトレーニング後のデータセットを構築するためのフレームワークである。 LLTは、意味、音響、時間情報にまたがる多面的な高密度オーディオ記述を構築する。 我々はQwen2.5-Omni-7Bを教師付き微調整の2段階パイプラインで訓練し、直接選好最適化を行った。
• 参考スコア（独自算出の注目度）: 110.63858752975403
• License:
• Abstract: We introduce Long Listening Thoughts (LLT), a framework for constructing post-training datasets that improves audio reasoning by pairing deliberate perceptual grounding with explicit cognitive behaviors. On audio understanding and reasoning benchmarks, large audio-language models (LALMs) are limited primarily by perceptual errors, yet existing post-training datasets rely on audio descriptions of limited diversity. Through a four-stage pipeline, LLT (1) builds multi-aspect dense audio descriptions spanning semantic, acoustic, and temporal information, (2) generates more challenging questions, (3) synthesizes incorrect reasoning traces, and (4) extends short reasoning traces into long ones via a thought-continuation strategy that elicits cognitive behaviors such as verification and backtracking. Using LLT, we synthesize 1.6M reasoning traces and train Qwen2.5-Omni-7B with a two-stage pipeline of supervised fine-tuning (SFT) followed by direct preference optimization (DPO). This improves accuracy on MMAU Test-mini (71.5 to 78.2), MMAR (56.7 to 63.7), and MMSU (60.6 to 66.0).
• Abstract（参考訳）: 学習後データセットを構築するためのフレームワークであるLong Listening Thoughts (LLT)を導入する。 音声理解と推論のベンチマークでは、大きなオーディオ言語モデル(LALM)は主に知覚的誤りによって制限されるが、既存のトレーニング後のデータセットは、限られた多様性のオーディオ記述に依存している。 4段階のパイプラインを通して,LLT (1) は意味,音響,時間情報にまたがる多面的な音声記述を構築し,(2) より困難な質問を生成し,(3) 誤った推論トレースを合成し,(4) 検証や追跡などの認知行動を引き起こす思考継続戦略により,短い推論トレースを長いものへと拡張する。 LLTを用いて、1.6Mの推論トレースを合成し、教師付き微調整(SFT)の2段階パイプラインでQwen2.5-Omni-7Bを訓練し、直接選好最適化(DPO)を行った。 これにより、MMAUテストミニ(71.5から78.2)、MMAR(56.7から63.7)、MMSU(60.6から66.0)の精度が向上する。

関連論文リスト

• Thinking in Depth, Speaking Directly: Recurrent Latent Reasoning for Paralinguistically Grounded Spoken Dialogue [26.066562661748904]
  共感的音声対話は、モデルが何を言ったか、どのように反応するかを決定するかの両方を使用する必要がある。 Explicit CoTは、パラ言語的知覚を改善し、応答において音響的手がかりをより明確化するが、応答計画において効果的な使用を保証しない。 ループトランスフォーマーをベースとしたループSLMを導入する。
  論文  参考訳（メタデータ） (2026-09-29T15:28:13Z)
• Reasoning Denoiser: Denoising Reasoning Traces for Hallucination Detection in Large Reasoning Models [14.440332703001218]
  本稿では,幻覚検出のための推論トレースを識別する学習フレームワークREDEを提案する。 Redeはステップレベルの表現空間を形成するために、最終回答の注意を自動監視信号として使用する。 実験により、REDEは競争ベースラインよりも幻覚検出性能を一貫して改善することが示された。
  論文  参考訳（メタデータ） (2026-07-24T08:48:17Z)
• Learning When to Think While Listening in Large Audio-Language Models [21.451503274426596]
  LALM(Large Audio-Language Models)のための学習可能な待ち行列制御形式を導入する。 人間の会話の漸進的な性質に触発され、コントローラーは、いつ待つか、いつ答えるかという部分的なオーディオ証拠に基づいて決定する。 その結果,6リワードDAPOコントローラの行重み付け精度は67.6%から70.3%に向上し,終端から終端までの長さを14%削減した。
  論文  参考訳（メタデータ） (2026-05-26T15:43:11Z)
• Audio-DeepThinker: Progressive Reasoning-Aware Reinforcement Learning for High-Quality Chain-of-Thought Emergence in Audio Language Models [33.669071786618495]
  既存の音声推論の手法は、教師付きチェーン・オブ・ファインチューニングや強化学習に依存している。 本稿では,2つの中核的アイデアに基づくフレームワークであるAudio-DeepThinkerを提案する。 ステージ1は基本的音響QAを訓練し、基本的推論パターンを育成し、ステージ2は音響的に挑戦的な境界ケースにシフトする。 Audio-DeepThinkerはMMAR(74.0%)、MMAU-test-mini(78.5%)、MMSU(77.26%)の最先端結果を達成する
  論文  参考訳（メタデータ） (2026-04-20T12:43:00Z)
• When Scaling Fails: Mitigating Audio Perception Decay of LALMs via Multi-Step Perception-Aware Reasoning [49.28390630057018]
  構造化推論軌道のポストトレーニングモデルは、直接応答のポストトレーニングと比較して、限界あるいは負の利得をもたらす。 MPAR$2$は、動的知覚的推論を奨励し、複雑な質問を知覚に富んだサブプロブレムに分解するパラダイムである。
  論文  参考訳（メタデータ） (2026-02-28T12:54:51Z)
• Structured Reasoning for Large Language Models [59.215789462977206]
  本研究では、推論を明示的、評価可能、トレーニング可能なコンポーネントに分解するフレームワークであるStructured Reasoning(SCR)を提案する。 SCRは推論効率と自己検証を大幅に改善する。 既存の推論パラダイムと比較して、出力トークンの長さを最大50%削減する。
  論文  参考訳（メタデータ） (2026-01-12T04:04:01Z)
• Token-Level Inference-Time Alignment for Vision-Language Models [58.41370989069588]
  VLM(Vision-Language Models)は、現代のマルチモーダルインテリジェンスの重要なバックボーンとなっている。 本稿では,基本VLMを凍結し,その分布を近似する報酬モデルをトレーニングする軽量フレームワークTITAを提案する。 推測中、暗黙の選好信号は報酬モデルと目標VLMの対数確率比として抽出され、密集した自己回帰フィードバックが得られる。
  論文  参考訳（メタデータ） (2025-10-20T09:58:03Z)
• Robust Knowledge Editing via Explicit Reasoning Chains for Distractor-Resilient Multi-Hop QA [63.96040994220329]
  Reason-KEは、4つの構造化されたステージファクト認識、関連性決定、選択的応用、そして1回のパスでイントラクタをフィルタする最終的な理由付けによって、事前訓練された大きな言語モデルを操る。 最大4つの無関係な事実を持つMQuAKE-CFで訓練されたReason-KEは、QAの精度を90.2%に高め、重い注意を払って6.3%低下し、回答が漏れたときは1%にしかならない。
  論文  参考訳（メタデータ） (2025-09-01T13:37:42Z)
• EchoInk-R1: Exploring Audio-Visual Reasoning in Multimodal LLMs via Reinforcement Learning [108.73513190593232]
  MLLM(Multimodal large language model)は、テキスト、視覚、音声にまたがる高度な認識を持つが、構造化されたクロスモーダル推論に苦慮する。 MLLMにおけるそのような推論を強化する強化学習フレームワークであるEchoInk-R1を紹介する。
  論文  参考訳（メタデータ） (2025-05-07T17:59:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。