論文の概要: MP-Bench: Evaluating Voice Agents as a Multiparty Conversation Participant
- arxiv url: http://arxiv.org/abs/2609.13076v1
- Date: Fri, 11 Sep 2026 17:11:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-15 07:38:31.823949
- Title: MP-Bench: Evaluating Voice Agents as a Multiparty Conversation Participant
- Title(参考訳): MP-Bench:多人数会話参加者としての音声エージェントの評価
- Abstract要約: MP-Benchは,対話型音声システムに対して,マルチパーティ・コンテクスト内でのアクティブな参加者としての評価を目的とした,最初のベンチマークである。
MP-Benchは、ターンテイキングの認識と応答の適切性という2つの主要な側面に沿ってエージェントの振る舞いを評価する。
リアルタイム音声エージェントは、マルチパーティの理解において22%以下にとどまり、マルチパーティのターンテイクにおいてほぼチャンスであることがわかった。
- 参考スコア(独自算出の注目度): 138.90198190949545
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Conversational voice agents have advanced significantly, offering increasingly natural human-machine interactions through both cascaded and end-to-end architectures. However, while recent benchmarks extensively evaluate dyadic interactions and passive audio comprehension, they largely overlook a prevalent real-world scenario: multi-party conversations. Evaluating agents in these settings is fundamentally more challenging than in dyadic interactions due to the exponentially greater conversational complexity. For voice agents to integrate seamlessly into human group dynamics, they must not only generate contextually appropriate responses but also demonstrate a nuanced understanding of open turn-taking. To address this gap, we introduce Multiparty Bench (MP-Bench), the first benchmark specifically designed to objectively evaluate conversational speech systems as active participants within multi-party contexts. MP-Bench assesses agent behavior along two primary dimensions: turn-taking awareness and response appropriateness. Additionally, we incorporate comprehension-based question-answering tasks as a complementary evaluation. By benchmarking 12 voice agents, we find that real-time voice agents stay at or below 22% on multiparty comprehension and remain near chance on multiparty turn-taking, exposing an open challenge for real-time voice agents under multiparty scenario.
- Abstract(参考訳): 会話音声エージェントは、カスケードアーキテクチャとエンドツーエンドアーキテクチャの両方を通じて、より自然な人間と機械の相互作用を提供する。
しかし、最近のベンチマークでは、ダイアドの相互作用と受動的オーディオ理解が広く評価されているが、現実のシナリオであるマルチパーティの会話は概ね見過ごされている。
これらの設定におけるエージェントの評価は、指数関数的に会話の複雑さが大きいため、ダイアディック相互作用よりも根本的に困難である。
音声エージェントが人間のグループ力学にシームレスに統合するためには、文脈的に適切な応答を生成するだけでなく、オープンなターンテイクの微妙な理解も示さなければならない。
このギャップに対処するため,マルチパーティ・ベンチ (MP-Bench) を導入する。
MP-Benchは、ターンテイキングの認識と応答の適切性という2つの主要な側面に沿ってエージェントの振る舞いを評価する。
さらに、補完的な評価として、理解に基づく質問応答タスクを組み込んだ。
12の音声エージェントをベンチマークすることで、リアルタイム音声エージェントはマルチパーティの理解において22%以下にとどまり、マルチパーティのターンテイクにほぼ近い確率で留まり、マルチパーティのシナリオ下でリアルタイム音声エージェントに対してオープンな課題を露呈する。
関連論文リスト
- Who Are They to Each Other? Multi-Agent Reasoning for Speaker Relationship Inference [18.334093251358833]
音声会話から話者関係を推定することは、社会的に認識された音声理解への重要なステップである。
既存の推論時間LLMアプローチは、微妙で分散的でマルチモーダルなリレーショナルキューを扱うための制限された構造を提供する。
LLMエージェント間の構造的相互作用を通じて推論を整理する,トレーニングフリーなマルチエージェント推論フレームワークを提案する。
論文 参考訳(メタデータ) (2026-09-09T02:40:02Z) - Adaptive Turn-Taking for Real-time Multi-Party Voice Agents [4.515705397557082]
マルチパーティ設定において、明示的に割り当てられたロールにターンテイク動作を条件付けるロールプレイング音声エージェントであるModerratorLMを提案する。
RolePlayConvは,多様なアシスタント機能を備えた音声多人数会話の大規模合成データセットである。
論文 参考訳(メタデータ) (2026-06-11T16:27:45Z) - Covo-Audio Technical Report [61.09708870154148]
7BバックエンドのLALMであるCovo-Audioは、連続的なオーディオ入力を直接処理し、単一の統一アーキテクチャ内でオーディオ出力を生成する。
対話指向の変種であるCovo-Audio-Chatは、意味的に強い会話能力を示す。
論文 参考訳(メタデータ) (2026-02-10T14:31:11Z) - Chronological Thinking in Full-Duplex Spoken Dialogue Language Models [66.84843878538207]
時系列思考は、完全なSDLMの応答品質を改善することを目的としている。
追加のレイテンシがない: ユーザが話すのをやめると、エージェントは考えるのをやめ、それ以上の遅延なしに話し始める。
結果: 客観的指標と人的評価の両面から, 時系列思考の有効性を示す実験を行った。
論文 参考訳(メタデータ) (2025-10-02T10:28:11Z) - SpeechRole: A Large-Scale Dataset and Benchmark for Evaluating Speech Role-Playing Agents [72.79816494079833]
ロールプレイングエージェントは、パーソナライズされた相互作用と感情共鳴を達成するための有望なパラダイムとして登場した。
既存の研究は主にテキストのモダリティに焦点を当て、現実的な対話的なシナリオにおける音声の重要な次元を無視している。
我々は,98の多様な役割と112kの音声ベースの1ターン・マルチターン会話からなる大規模かつ高品質なデータセットであるSpeechRole-Dataを構築した。
論文 参考訳(メタデータ) (2025-08-04T03:18:36Z) - Multimodal Conversation Structure Understanding [12.29827265137757]
大きな言語モデルでは、きめ細かい会話構造を理解する能力は未解明のままである。
我々は,話者と回答関係のための4,398の注釈付きデータセット,5,755人のアドレナリ,3,142人のサイド参加者を提示する。
音声-視覚的LLMと視覚言語モデルの評価をデータセット上で行い, 実験結果から, マルチモーダル対話構造理解は依然として困難であることが示唆された。
論文 参考訳(メタデータ) (2025-05-23T06:41:54Z) - Full-Duplex-Bench: A Benchmark to Evaluate Full-duplex Spoken Dialogue Models on Turn-taking Capabilities [93.09944267871163]
FullDuplexBenchは、重要なインタラクティブな振る舞いを体系的に評価するベンチマークである。
ベンチマークコードを公開することによって、音声対話モデリングの進歩と、より自然で魅力的なSDMの開発を目指しています。
論文 参考訳(メタデータ) (2025-03-06T18:59:16Z) - Who Speaks Next? Multi-party AI Discussion Leveraging the Systematics of Turn-taking in Murder Mystery Games [7.946510318969307]
本研究では,会話分析における隣接対やターンテイクといった会話規範に着目した。
本稿では,AIエージェントの対話制御にこれらの規範を適用した"Murder Mystery Agents"という新しいフレームワークを提案する。
提案フレームワークは、隣接ペアと自己選択機構に基づいて、次の話者選択を統合する。
論文 参考訳(メタデータ) (2024-12-06T10:45:54Z) - Detecting agreement in multi-party dialogue: evaluating speaker
diarisation versus a procedural baseline to enhance user engagement [33.93135348317864]
本研究は,会話エージェントがクイズショーホストとして機能する協調クイズを用いて,ダイアリゼーションと周波数および確率に基づく手法が合意決定においてより正確かどうかを判定する。
実験結果から,我々のプロシージャシステムは選手により関与し,合意を検出するのがより正確であることが示唆された。
論文 参考訳(メタデータ) (2023-11-06T11:00:44Z) - Duplex Conversation: Towards Human-like Interaction in Spoken Dialogue
System [120.70726465994781]
マルチモーダル音声対話システムにより、電話ベースのエージェントが、人間のような顧客と対話できる。
製品で学んだ教訓を共有するために、Conversation Duplex Alibabaのインテリジェントなカスタマサービスをデプロイしています。
オンラインA/B実験は,提案システムにおいて応答遅延を50%低減できることを示した。
論文 参考訳(メタデータ) (2022-05-30T12:41:23Z) - A Speaker-aware Parallel Hierarchical Attentive Encoder-Decoder Model
for Multi-turn Dialogue Generation [13.820298189734686]
本稿では,マルチターン会話における話者の区別を強調するオープンドメイン対話生成モデルを提案する。
実験の結果,PHAEDは自動評価と人的評価の両面で最先端の成績を示した。
論文 参考訳(メタデータ) (2021-10-13T16:08:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。