論文の概要: Thinking in Depth, Speaking Directly: Recurrent Latent Reasoning for Paralinguistically Grounded Spoken Dialogue
- arxiv url: http://arxiv.org/abs/2609.37818v1
- Date: Tue, 29 Sep 2026 15:28:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.686201
- Title: Thinking in Depth, Speaking Directly: Recurrent Latent Reasoning for Paralinguistically Grounded Spoken Dialogue
- Title(参考訳): 音声対話における逐次遅延推論
- Abstract要約: 共感的音声対話は、モデルが何を言ったか、どのように反応するかを決定するかの両方を使用する必要がある。
Explicit CoTは、パラ言語的知覚を改善し、応答において音響的手がかりをより明確化するが、応答計画において効果的な使用を保証しない。
ループトランスフォーマーをベースとしたループSLMを導入する。
- 参考スコア(独自算出の注目度): 26.066562661748904
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Empathetic spoken dialogue requires models to use both what is said and how it is said to decide how to respond. Explicit CoT can improve paralinguistic perception and make acoustic cues more explicit in replies, yet does not ensure their effective use in response planning. We call this mismatch the perception-reasoning gap. In addition, CoT may not fully capture acoustic cues in words, and generating it adds inference latency. To address these limitations, we introduce LoopSLM, which builds on looped Transformers for latent reasoning, reusing a decoder block to refine hidden states with acoustic grounding at every pass. Its two-stage training further narrows the perception-reasoning gap by separating learning to reason from learning to respond, enabling direct inference without CoT. On EchoMind, LoopSLM improves paralinguistic understanding, reasoning, and reply quality over Qwen2.5-Omni-7B. Against the CoT-SFT baseline, LoopSLM gains over 20 points in reasoning accuracy while generating 64.5% fewer tokens at half the latency. It also outperforms Qwen3-Omni-Thinking on most empathetic reply metrics with 34x lower latency. Despite training only on dialogue data, LoopSLM improves accuracy on general audio benchmarks.
- Abstract(参考訳): 共感的音声対話は、モデルが何を言ったか、どのように反応するかを決定するかの両方を使用する必要がある。
Explicit CoTは、パラ言語的知覚を改善し、応答において音響的手がかりをより明確化するが、応答計画において効果的な使用を保証しない。
私たちはこのミスマッチを認識と推論のギャップと呼んでいる。
さらに、CoTは単語中のアコースティックキューを完全にキャプチャすることができず、推論遅延を発生させる可能性がある。
この制限に対処するため,ループ型トランスフォーマーを用いて遅延推論を行い,デコーダブロックを再利用し,各パスに音響的接地を施した隠れ状態を改良するLoopSLMを導入する。
その2段階のトレーニングは、学習から学習を分離して反応を推論することで、認識と推論のギャップをさらに狭め、CoTなしで直接推論を可能にする。
EchoMindでは、LoopSLMはQwen2.5-Omni-7B上でのパラ言語的理解、推論、応答品質を改善している。
CoT-SFTベースラインに対して、LoopSLMは正確さを推し進めながら20ポイント以上を獲得し、64.5%のトークンを半分のレイテンシで生成した。
また、Qwen3-Omni-Thinkingよりも34倍のレイテンシで、ほとんどの共感的応答指標を上回ります。
対話データのみのトレーニングにもかかわらず、LoopSLMは一般的なオーディオベンチマークの精度を向上させる。
関連論文リスト
- Spoken Language Models that Think Aloud [49.8808094623973]
Chain-of-Thought (CoT)推論は言語モデルの能力を改善し、Spoken Language Models (SLM)に直接適用した。
本稿では,Thinker-Talkerアーキテクチャ内での推論に基づくSLMのための非同期シンクアラウドフレームワークを提案する。
提案手法は,質問文の回答精度を,連続的な「考えを語る」ベースラインと同等に保ちながら,推論中のユーザの音質を著しく低下させる。
論文 参考訳(メタデータ) (2026-09-22T14:25:04Z) - Voice of Reason: Reinforcement Learning for Spoken Math [45.552142181277524]
音声言語モデルは、カスケードシステムよりも人間と機械間の豊かな音声対話を可能にする。
しかし、数学的推論ベンチマークにおけるそれらの精度は、テキストモデルに遅れを取っている。
検証可能な報酬を伴う強化学習が,テキストモデルの機能拡張に有効であることを示す。
論文 参考訳(メタデータ) (2026-09-16T13:52:50Z) - Learning When to Think While Listening in Large Audio-Language Models [21.451503274426596]
LALM(Large Audio-Language Models)のための学習可能な待ち行列制御形式を導入する。
人間の会話の漸進的な性質に触発され、コントローラーは、いつ待つか、いつ答えるかという部分的なオーディオ証拠に基づいて決定する。
その結果,6リワードDAPOコントローラの行重み付け精度は67.6%から70.3%に向上し,終端から終端までの長さを14%削減した。
論文 参考訳(メタデータ) (2026-05-26T15:43:11Z) - When Scaling Fails: Mitigating Audio Perception Decay of LALMs via Multi-Step Perception-Aware Reasoning [49.28390630057018]
構造化推論軌道のポストトレーニングモデルは、直接応答のポストトレーニングと比較して、限界あるいは負の利得をもたらす。
MPAR$2$は、動的知覚的推論を奨励し、複雑な質問を知覚に富んだサブプロブレムに分解するパラダイムである。
論文 参考訳(メタデータ) (2026-02-28T12:54:51Z) - Balancing Faithfulness and Performance in Reasoning via Multi-Listener Soft Execution [79.98699884805636]
Reasoning Execution by Multiple Listeners (REMUL) は多人数の強化学習手法である。
REMULは、推論が他の当事者に従えるかがより忠実になるという仮説に基づいている。
スピーカーは、リスナーにとって明らかな推論を生み出すことで報われます。
論文 参考訳(メタデータ) (2026-02-18T02:55:55Z) - Can Speech LLMs Think while Listening? [34.188674303810394]
CoT(Chain-of- Thought)はテキストベース音声モデルの推論能力を大幅に向上させることが示されている。
そこで本研究では,テキスト空間における推論により,音声のLLMの精度が平均2.4倍向上することを示す。
ユーザクエリが終了する前に,モデルが推論を開始できるようにすることで,推論から追加のレイテンシを低減する手法を提案する。
論文 参考訳(メタデータ) (2025-10-08T19:50:58Z) - Mini-Omni-Reasoner: Token-Level Thinking-in-Speaking in Large Speech Models [80.75260664100644]
Mini-Omni-Reasonerは、"Thinking-in-Speaking"という新しい定式化を通じて、音声内での推論を可能にするフレームワークである。
トークンレベルで音声応答トークンとサイレント推論トークンをインターリーブする。
算術的推論では+19.1%、文脈的理解では+6.4%、出力は短く、復号遅延はゼロである。
論文 参考訳(メタデータ) (2025-08-18T15:14:04Z) - STITCH: Simultaneous Thinking and Talking with Chunked Reasoning for Spoken Language Models [131.90117151306993]
音声言語モデル(SLM)は、音声入力を受信し、音声応答を生成するように設計されている。
現在のSLMは、応答する前に、内部的に無意味な思考プロセスを実行する能力が欠けている。
未知の推論チャンクと音声応答チャンクを交互に生成する新しい手法であるStitchを提案する。
論文 参考訳(メタデータ) (2025-07-21T08:30:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。