論文の概要: RetroThinker: Enabling Retrospective Thinking in Speech LLMs

• arxiv url: http://arxiv.org/abs/2609.11864v1
• Date: Thu, 10 Sep 2026 17:41:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-11 23:53:35.460469
• Title: RetroThinker: Enabling Retrospective Thinking in Speech LLMs
• Title（参考訳）: RetroThinker:LLMにおけるレトロスペクティブ思考の実現
• Abstract要約: 音声大言語モデル(SpeechLLMs)は複雑な推論タスクにおいてテキストのみのLLMに遅れる。 提案するRetroThinkerは,Moshiモデルを用いて,推論中のCoTステップの自己検証と前方補正を行う多段階後トレーニングフレームワークである。 RetroThinkerは、非レトロスペクティブベースラインに対する精度-レイテンシトレードオフを大幅に改善し、11%の絶対精度を同等のレイテンシで達成する。
• 参考スコア（独自算出の注目度）: 42.95471264630473
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Speech large language models (SpeechLLMs) offer reduced latency and retain paralinguistic nuances that are typically lost in cascaded automatic speech recognition (ASR) and text-based LM architectures. However, they continue to lag behind text-only LLMs on complex reasoning tasks, while real-time spoken interaction imposes strict latency constraints. Although prior works employ Chain-of-Thought (CoT) and concurrent reasoning to enhance reasoning capabilities without inducing prohibitive delays, an inherent accuracy-latency trade-off persists. In this paper, we investigate whether a streaming SpeechLLM can dynamically revise its reasoning traces on the fly. We introduce RetroThinker, a multi-stage post-training framework that equips the Moshi model to self-verify and forward-correct CoT steps during inference. RetroThinker combines supervised fine-tuning (SFT) on curated retrospective thinking data with length-based direct preference optimization (DPO) to optimize retrospective during early reasoning (i.e., reasoning concurrently while the user speaks). Evaluated on the GSM8K benchmark, RetroThinker significantly improves the accuracy-latency trade-off over non-retrospective baselines, achieving an 11% absolute accuracy gain at a comparable latency.
• Abstract（参考訳）: 音声大言語モデル(SpeechLLMs)は、遅延を低減し、通常、カスケード付き自動音声認識(ASR)やテキストベースのLMアーキテクチャで失われるパラ言語ニュアンスを保持する。 しかし、複雑な推論タスクではテキストのみのLLMに遅れず、リアルタイム音声インタラクションは厳格なレイテンシ制約を課している。 従来の作業では、Chain-of-Thought(CoT)と同時推論を使用して、違法な遅延を引き起こすことなく推論能力を向上させるが、固有の精度-遅延トレードオフは持続する。 本稿では,ストリーミングのSpeechLLMが,その推論トレースをリアルタイムで更新できるかどうかを検討する。 提案するRetroThinkerは,Moshiモデルを用いて,推論中のCoTステップの自己検証と前方補正を行う多段階後トレーニングフレームワークである。 RetroThinkerは、修正された振り返り思考データに対する教師付き微調整(SFT)と長さに基づく直接選好最適化(DPO)を組み合わせることで、初期の推論(つまり、ユーザが話している間に同時に推論する)の間にレトロスペクティブを最適化する。 GSM8Kベンチマークで評価されたRetroThinkerは、非レトロスペクティブベースラインに対する精度-レイテンシトレードオフを大幅に改善し、同等のレイテンシで11%の絶対的精度向上を達成する。

関連論文リスト

• Improving Multi-turn Dialogue Consistency with Self-Recall Thinking [13.308970592702602]
  大規模言語モデル(LLM)ベースのマルチターン対話システムは、非隣接のターン間の依存関係を追跡するのに苦労することが多い。 本稿では,長期的コンテキスト依存と疎結合な情報信号に対処するフレームワークであるセルフリコール思考(SRT)を提案する。 複数のデータセットの実験では、SRTはF1スコアを4.7%改善し、エンドツーエンドのレイテンシを14.7%削減している。
  論文  参考訳（メタデータ） (2026-05-14T17:20:14Z)
• Balancing Faithfulness and Performance in Reasoning via Multi-Listener Soft Execution [79.98699884805636]
  Reasoning Execution by Multiple Listeners (REMUL) は多人数の強化学習手法である。 REMULは、推論が他の当事者に従えるかがより忠実になるという仮説に基づいている。 スピーカーは、リスナーにとって明らかな推論を生み出すことで報われます。
  論文  参考訳（メタデータ） (2026-02-18T02:55:55Z)
• Constraint-Rectified Training for Efficient Chain-of-Thought [60.52883907721588]
  CoT (Chain-of-Thought) は,Large Language Models (LLMs) の推論能力を大幅に向上させた。 より長い推論トレースは、自己訂正のような回答の品質とアンロック能力を改善することができるが、高い推論コストを発生させ、過度に考えることとして知られる冗長なステップをしばしば導入する。 近年の研究は、推論の長さと精度のバランスをとる効率的な推論戦略の開発を目指している。
  論文  参考訳（メタデータ） (2026-02-13T02:13:45Z)
• Are Reasoning LLMs Robust to Interventions on Their Chain-of-Thought? [79.86483056611105]
  推論 LLM は、答えを出す前にステップバイステップの思考連鎖を生成する。 これらの推論は、その内部で発生する破壊の痕跡をどれほど堅牢にしていますか? 一定のタイミングでモデル自身のCoTを摂動させる制御された評価フレームワークを導入する。
  論文  参考訳（メタデータ） (2026-02-07T10:02:58Z)
• APR: Penalizing Structural Redundancy in Large Reasoning Models via Anchor-based Process Rewards [61.52322047892064]
  テスト時間スケーリング(TTS)は、Large Reasoning Models(LRM)の機能を大幅に強化した。 我々は, LRM が推論過程において最終回答を得た後も, 再検討なしに反復的自己検証を頻繁に行うことを観察した。 本稿では,Anchor-based Process Reward (APR)を提案する。
  論文  参考訳（メタデータ） (2026-01-31T14:53:20Z)
• LTS-VoiceAgent: A Listen-Think-Speak Framework for Efficient Streaming Voice Interaction via Semantic Triggering and Incremental Reasoning [27.13598270494417]
  LTS-VoiceAgent は Listen-Think-Speak フレームワークである。 意味のある接頭辞を検出するDynamic Semantic Triggerと、背景のThinkerと前景のスピーカーをコーディネートするDual-Role Stream Orchestratorを備えている。
  論文  参考訳（メタデータ） (2026-01-26T15:42:35Z)
• Can Speech LLMs Think while Listening? [34.188674303810394]
  CoT(Chain-of- Thought)はテキストベース音声モデルの推論能力を大幅に向上させることが示されている。 そこで本研究では,テキスト空間における推論により,音声のLLMの精度が平均2.4倍向上することを示す。 ユーザクエリが終了する前に,モデルが推論を開始できるようにすることで,推論から追加のレイテンシを低減する手法を提案する。
  論文  参考訳（メタデータ） (2025-10-08T19:50:58Z)
• Unleashing the True Potential of LLMs: A Feedback-Triggered Self-Correction with Long-Term Multipath Decoding [4.220190655754022]
  大規模言語モデル(LLM)は、様々なタスクで顕著なパフォーマンスを達成したが、推論中に誤ったコンテンツを生成することへの感受性は、決定的な未解決の課題である。 本稿では,ユーザフィードバックとデコードダイナミクスの強化を両立させる新しいフレームワークであるFeedback-Triggered Regeneration (FTR)を提案する。 具体的には、FTRは、負のユーザフィードバックを受けた場合にのみ応答再生を起動し、本来正しい出力を保持しながら、不良自己評価からのエラー伝播を回避する。
  論文  参考訳（メタデータ） (2025-09-09T12:43:28Z)
• Stop Spinning Wheels: Mitigating LLM Overthinking via Mining Patterns for Early Reasoning Exit [114.83867400179354]
  オーバーライドは、大きな言語モデル全体のパフォーマンスを低下させる可能性がある。 推論は, 探索段階の不足, 補償推論段階, 推論収束段階の3段階に分類される。 我々は,ルールに基づく軽量なしきい値設定戦略を開発し,推論精度を向上させる。
  論文  参考訳（メタデータ） (2025-08-25T03:17:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。