論文の概要: Scalable Context Orchestration for Serving LLMs Over Voice

• arxiv url: http://arxiv.org/abs/2609.04288v1
• Date: Thu, 03 Sep 2026 09:27:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-07 18:15:23.767113
• Title: Scalable Context Orchestration for Serving LLMs Over Voice
• Title（参考訳）: 音声上でLLMを実行するためのスケーラブルなコンテキストオーケストレーション
• Abstract要約: 我々は、音声コンテキストをオーケストレーションし、その使用をオーケストレーションするコンテキスト管理であるllmovoiceを提示する。 発話レートのアライメントエラーを52.4%削減し、偽の中断率を46.4%から0.9%に下げ、モデル使用コストを79.2%削減する。 長いセッションでは、llmovoiceはターン当たりのコストを最大24.9倍削減し、ベースラインの回答品質の98.7%を維持している。
• 参考スコア（独自算出の注目度）: 5.947646478694118
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Voice AI applications are gaining popularity as advances in large language models (LLMs) enable more natural and accessible spoken interactions. Serving these applications requires accounting not only for what users say, but also for how they speak (e.g., speaking rate) and the conditions under which their audio is captured and transmitted (e.g., background noise and packet loss). However, existing LLM systems represent conversation context as a flat, growing sequence of messages, leaving voice-specific context implicit in the audio. As a result, they can generate responses that are poorly aligned with user preferences, degrade interaction quality under adverse environmental conditions, and incur high costs over long voice sessions. We present llmovoice, a context-management middleware that explicitly models voice context and orchestrates its use. At each turn, llmovoice constructs a bounded voice context from the current user input, relevant interaction history, and explicit paralinguistic and environmental states. It then uses the serving LLM to reason over this context and generate runtime directives that guide how the system responds. We evaluate llmovoice on real-world voice applications and benchmarks. It reduces speaking-rate alignment error by 52.4%, lowers the false-interruption rate from 46.0% to 0.9% under packet loss, and reduces model usage cost by 79.2%. For long sessions, llmovoice reduces per-turn cost by up to 24.9 times while retaining up to 98.7% of baseline answer quality.
• Abstract（参考訳）: 音声AIアプリケーションは、大きな言語モデル(LLM)の進歩により、より自然でアクセスしやすい音声対話を可能にしているため、人気が高まっている。 これらのアプリケーションを実現するには、ユーザが何を言っているかだけでなく、どのように話すか(例えば、話す速度)や、音声をキャプチャして送信する条件(例えば、バックグラウンドノイズやパケットロス)についても説明責任を負う。 しかし、既存のLLMシステムは会話コンテキストをフラットで成長するメッセージシーケンスとして表現し、音声に音声固有のコンテキストを暗黙的に残している。 その結果, ユーザの嗜好に合わない応答, 環境条件の悪さによる相互作用品質の低下, 長時間の音声セッションよりも高いコストが生じることがわかった。 我々は、音声コンテキストを明示的にモデル化し、その使用をオーケストレーションするコンテキスト管理ミドルウェアであるllmovoiceを提示する。 各ターンで、llmovoiceは現在のユーザ入力、関連するインタラクション履歴、明示的なパラ言語的および環境状態から境界付き音声コンテキストを構築する。 次に、サービスLDMを使用して、このコンテキストを推論し、システムがどう反応するかを導くランタイムディレクティブを生成する。 実環境における音声アプリケーションとベンチマークにおけるllmovoiceの評価を行った。 発話レートのアライメントエラーを52.4%削減し、偽の中断率を46.0%から0.9%に下げ、モデル使用コストを79.2%削減する。 長いセッションでは、llmovoiceはターン当たりのコストを最大24.9倍削減し、ベースラインの回答品質の98.7%を維持している。

関連論文リスト

• VoiceLongMemEval: Do Assistants Remember How You Sounded? [2.3577368017815696]
  現在のベンチマークでは、この対話履歴を、長い地平線上の情報検索、時間的推論、知識更新として評価している。 我々はVoiceLongMemEvalベンチマークを示し、すべての回答は会話のターンに付随するパラ言語的メタデータに依存する。
  論文  参考訳（メタデータ） (2026-09-01T02:06:10Z)
• VoiceChat-TTS: A Low-Latency Continuous Speech Synthesis Model for Interactive Agents [31.302856029488876]
  VoiceChat-TTSは、対話型エージェントのための低レイテンシで連続的で、ストリーミング可能なテキスト音声モデルである。 このモデルは、モジュール性と高い音声品質を維持しながら、常時オンで応答性のある音声生成を可能にする。
  論文  参考訳（メタデータ） (2026-08-13T23:37:07Z)
• PACE: A Playback-Aligned Context Engine for LLM-Based Full-Duplex Voice Dialogue [34.75261337484262]
  これを生成コンテキストミサンチョリング(Generative Context Misanchoring、GCM)と呼ぶ。 ブラックボックス音声モデルを用いてブラウザベースのリアルタイム音声アシスタントを実装した。 そこで我々は,再生関連レファレンス・アンチョリング事例の制御された新しいベンチマークデータセットを構築した。
  論文  参考訳（メタデータ） (2026-08-07T12:55:43Z)
• Audio Interaction Model [102.4354125819644]
  今日のLALM(Large Audio Language Models)はオフラインであり、ストリーミングオーディオモデルはASRや音声チャットのような単一のタスクのみを処理する。 それは、常時オンの知覚・認知応答ループを通じて、音、環境、指示をリアルタイムで聞き、リアルタイムで反応するモデルである。 我々は,この仕組みをオーディオインタラクションモデルとして定式化し,オフラインタスクの実行を継続する統合ストリーミングモデルであるAudio-Interactionで実現した。
  論文  参考訳（メタデータ） (2026-06-03T17:26:11Z)
• Teaching Audio-Aware Large Language Models What Does Not Hear: Mitigating Hallucinations through Synthesized Negative Samples [55.2480439325792]
  近年の音声対応大型言語モデル(ALLM)により、音声入力の処理と理解が可能になった。 これらのモデルは、しばしば既存の音響イベントを幻覚させ、現実の応用における信頼性を低下させる。 LISTENは、現在と欠落した音を識別するallMsの能力を向上するコントラスト的な訓練法である。
  論文  参考訳（メタデータ） (2025-05-20T15:44:01Z)
• IntrinsicVoice: Empowering LLMs with Intrinsic Real-time Voice Interaction Abilities [55.11130688075417]
  IntrinsicVoicは、本質的なリアルタイム音声対話機能を備えたLLMである。 我々の新規アーキテクチャであるGroupFormerは、テキストシーケンスに匹敵する長さまで音声シーケンスを削減できる。 我々は,500k近い音声対音声対話を含む,メソッド500kというマルチターン音声対音声対話データセットを構築した。
  論文  参考訳（メタデータ） (2024-10-09T05:04:31Z)
• Distilling an End-to-End Voice Assistant Without Instruction Training Data [53.524071162124464]
  Distilled Voice Assistant (DiVA)は、質問応答、分類、翻訳を一般化する。 Qwen 2 Audioのような最先端のモデルと比較すると,DiVAはユーザの好みによく適合し,72%の勝利率を達成した。
  論文  参考訳（メタデータ） (2024-10-03T17:04:48Z)
• CLAIR-A: Leveraging Large Language Models to Judge Audio Captions [73.51087998971418]
  機械生成オーディオキャプションの評価は、様々な要因を検討する必要がある複雑なタスクである。 本稿では,大規模言語モデルのゼロショット機能を活用するシンプルで柔軟なCLAIR-Aを提案する。 我々の評価では、CLAIR-Aは従来のメトリクスと比較して品質の人的判断を良く予測する。
  論文  参考訳（メタデータ） (2024-09-19T17:59:52Z)
• Retrieval Augmented End-to-End Spoken Dialog Models [20.896330994089283]
  音声信号から直接ダイアログ状態が推測される音声対話アプリケーションにSLMを適用する。 RAG(retrieval-augmented generation)パラダイムにヒントを得て,この弱点を克服する検索拡張SLM(ReSLM)を提案する。 音声MultipleWozタスク(DSTC-11チャレンジ)を用いてReSLMを評価し,この検索によりモデル性能が向上することを確認した。
  論文  参考訳（メタデータ） (2024-02-02T18:23:09Z)
• Speech collage: code-switched audio generation by collaging monolingual corpora [50.356820349870986]
  Speech Collage は音声セグメントをスプライシングすることでモノリンガルコーパスからCSデータを合成する手法である。 2つのシナリオにおける音声認識における生成データの影響について検討する。
  論文  参考訳（メタデータ） (2023-09-27T14:17:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。