論文の概要: Voice of Reason: Reinforcement Learning for Spoken Math

• arxiv url: http://arxiv.org/abs/2609.18677v1
• Date: Wed, 16 Sep 2026 13:52:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-20 08:55:53.828057
• Title: Voice of Reason: Reinforcement Learning for Spoken Math
• Title（参考訳）: 推論の声:音声数学の強化学習
• Abstract要約: 音声言語モデルは、カスケードシステムよりも人間と機械間の豊かな音声対話を可能にする。 しかし、数学的推論ベンチマークにおけるそれらの精度は、テキストモデルに遅れを取っている。 検証可能な報酬を伴う強化学習が,テキストモデルの機能拡張に有効であることを示す。
• 参考スコア（独自算出の注目度）: 45.552142181277524
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Speech language models enable richer spoken interactions between humans and machines than cascaded systems, allowing access to paralinguistic information and lower latency. However, their accuracy on mathematical reasoning benchmarks has lagged behind those of text models. Reinforcement learning (RL) with verifiable rewards has been instrumental in extending text models' capabilities for solving complex problems and limiting hallucinations. In this work, we explore applying RL to the GLM-4-Voice speech model (Zeng et al., 2024) to bridge the gap between textual and spoken mathematical problem solving. We first adapt the model to the domain using supervised fine-tuning on synthesized spoken question-answering data. We then show that, even without extra reasoning tokens, RL improves the accuracy on GSM8K beyond levels previously achieved for speech models only with supplementary reasoning traces. When combined with existing streaming reasoning techniques, we show further gains to 74.8% free-form accuracy. This establishes a new state-of-the-art for mathematical spoken abilities with speech-native models.
• Abstract（参考訳）: 音声言語モデルは、カスケードシステムよりも人間と機械間のより豊かな音声対話を可能にし、パラ言語情報へのアクセスと低レイテンシを実現する。 しかし、数学的推論ベンチマークにおけるそれらの精度は、テキストモデルに遅れを取っている。 検証可能な報酬を持つ強化学習(RL)は、複雑な問題を解決するためのテキストモデルの能力を拡張し、幻覚を制限するのに役立っている。 本研究では,GLM-4-Voice音声モデル(Zeng et al ,2024)にRLを適用し,テキストと音声による数学的問題解決のギャップを埋める方法について検討する。 まず、合成音声質問応答データに基づく教師付き微調整を用いて、モデルをドメインに適応させる。 次に, 余分な推論トークンがなくても, RLは, 補足的推論トレースしか持たない音声モデルにおいて, GSM8Kの精度を従来達成していたレベルを超えて向上させることを示す。 既存のストリーミング推論技術と組み合わせることで、74.8%のフリーフォーム精度がさらに向上することを示す。 これにより、音声ネイティブモデルを用いた数学的音声能力のための新しい最先端技術が確立される。

関連論文リスト

• Aligning Paralinguistic Understanding and Generation in Speech LLMs via Multi-Task Reinforcement Learning [40.8328755967818]
  音声大言語モデル(LLM)は韻律、感情、非言語音などのパラ言語的手がかりを観察する。 本稿では,マルチタスク強化学習(RL)を提案する。 実験により,本手法は教師付きベースラインと強力なプロプライエタリモデルの両方に対するパラ言語学的理解を改善することが示された。
  論文  参考訳（メタデータ） (2026-03-16T22:54:12Z)
• F-Actor: Controllable Conversational Behaviour in Full-Duplex Models [70.48189107402145]
  典型的な学術的制約下で効率的に訓練できる,第1にオープンかつ命令追従型全段階会話音声モデルを提案する。 我々のモデルは、大規模な事前訓練や多段階事前訓練に頼ることなく、わずか2000時間のデータしか必要としない。 モデルとトレーニングコードの両方がリリースされ、制御可能なフルステージ音声システムに関する再現可能な研究が可能になる。
  論文  参考訳（メタデータ） (2026-01-16T14:25:57Z)
• VoiceTextBlender: Augmenting Large Language Models with Speech Capabilities via Single-Stage Joint Speech-Text Supervised Fine-Tuning [64.56272011710735]
  大規模言語モデル(LLM)のバックボーンの低ランク適応(LoRA)に対して,新しい単一段階共同音声テキストSFTアプローチを提案する。 従来のSpeechLMの7Bまたは13Bパラメータと比較すると,我々の3Bモデルは様々な音声ベンチマークにおいて優れた性能を示す。
  論文  参考訳（メタデータ） (2024-10-23T00:36:06Z)
• Mini-Omni: Language Models Can Hear, Talk While Thinking in Streaming [0.0]
  ミニオムニ(Mini-Omni)は、リアルタイム音声対話が可能な音声ベースのエンドツーエンド会話モデルである。 そこで本研究では,テキストによる音声生成手法と,推論中のバッチ並列戦略を併用して,性能を向上させる手法を提案する。 また、最適化音声出力のための微調整モデルにVoiceAssistant-400Kデータセットを導入する。
  論文  参考訳（メタデータ） (2024-08-29T17:18:53Z)
• Pheme: Efficient and Conversational Speech Generation [52.34331755341856]
  我々は,コンパクトだが高性能な会話型TSモデルを提供するPhemeモデルシリーズを紹介する。 小規模の会話データで効率的にトレーニングでき、データ要求を10倍に削減できるが、自動回帰的TSモデルの品質にマッチする。
  論文  参考訳（メタデータ） (2024-01-05T14:47:20Z)
• Bridging Speech and Textual Pre-trained Models with Unsupervised ASR [70.61449720963235]
  この研究は、音声とテキストによる事前学習モデルを結ぶ、シンプルで効率的な教師なしのパラダイムを提案する。 教師なし自動音声認識(ASR)は、音声自己教師モデルから表現を改善することができることを示す。 特に、音声による質問応答では、挑戦的なNMSQAベンチマークよりも最先端の結果に到達しています。
  論文  参考訳（メタデータ） (2022-11-06T04:50:37Z)
• Towards Language Modelling in the Speech Domain Using Sub-word Linguistic Units [56.52704348773307]
  音節や音素を含む言語単位に基づくLSTMに基づく新しい生成音声LMを提案する。 限られたデータセットでは、現代の生成モデルで要求されるものよりも桁違いに小さいので、我々のモデルはバブリング音声を近似する。 補助的なテキストLM,マルチタスク学習目標,補助的な調音特徴を用いた訓練の効果を示す。
  論文  参考訳（メタデータ） (2021-10-31T22:48:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。