論文の概要: Towards User Simulators That Stay On Task And Still Sound Natural
- arxiv url: http://arxiv.org/abs/2610.31512v1
- Date: Thu, 22 Oct 2026 16:26:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-24 02:08:44.476514
- Title: Towards User Simulators That Stay On Task And Still Sound Natural
- Title(参考訳): タスクに留まり、自然に聞こえるユーザーシミュレーターへ
- Abstract要約: 本稿では,タスク意図の順守と行動自然性に報いる強化学習(RL)レシピを提案する。
この手法の重要な貢献は、ユーザシミュレータと交互に対向するループで訓練された軽量な判別器で自然性を運用することである。
得られたモデルであるUserLM-2.0は、最強のユーザシミュレータの3倍の速度で、46.2%の時間で有効なシミュレートされた会話を生成する。
- 参考スコア(独自算出の注目度): 32.90778305792244
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Users increasingly rely on AI systems for extended, multi-turn tasks, yet evidence indicates that LLM-based system performance degrades over prolonged interaction. To evaluate and improve AI assistants in such settings, we need user simulators that faithfully follow complex user intents while exhibiting realistic conversational behavior. Existing approaches manifest a trade-off: prompted assistants can follow complex user intents but lack behavioral fidelity, while specialized user simulators better approximate conversational behavior but struggle to remain faithful to complex intents. In this paper, we propose a reinforcement learning (RL) recipe that jointly rewards task intent adherence and behavioral naturalness. A crucial contribution of the method is operationalizing naturalness with a lightweight discriminator trained in an alternating, adversarial loop with the user simulator. We release the resulting model, UserLM-2.0, which produces valid simulated conversations (i.e., meeting both task-faithfulness and naturalness criteria) 46.2% of the time, over three times the rate of the strongest prior user simulator (14.1%).
- Abstract(参考訳): ユーザは、拡張されたマルチターンタスクに対して、AIシステムに依存していることが多いが、LLMベースのシステムパフォーマンスが、長時間のインタラクションよりも劣化していることを示す証拠がある。
このような環境でAIアシスタントを評価し改善するには、現実的な会話行動を示しながら、複雑なユーザ意図を忠実に追従するユーザーシミュレータが必要である。
アシスタントは複雑なユーザー意図に従うことができるが、行動の忠実さは欠如している。
本稿では,タスク意図の順守と行動の自然さを両立させる強化学習(RL)のレシピを提案する。
この手法の重要な貢献は、ユーザシミュレータと交互に対向するループで訓練された軽量な判別器で自然性を運用することである。
得られたモデルであるUserLM-2.0(タスク忠実度と自然性の両方を満たす)を、最強のユーザシミュレータ(14.1%)の3倍の速度で、46.2%の時間で生成する。
関連論文リスト
- MIMESIS: Learning User Simulators as Training Environments for Interactive Agents [18.483534109032465]
対話型言語エージェントのトレーニングと評価には、リッチなユーザインタラクションが必要だが、人間のフィードバックの収集は高価でスケールが難しい。
MIMESISは、人間の会話を訓練し、明確な推論の監督を施したユーザシミュレータである。
我々の9Bモデルは、最強のフロンティアモデルを上回る65.7のSOUL-Indexを達成する。
論文 参考訳(メタデータ) (2026-10-07T05:37:09Z) - TRACER: Trajectory-Aligned Learning for Multi-Turn User Simulation [13.030102131786906]
ユーザ意図の進化をモデル化し,シミュレーションされた軌跡を実物と整合させるマルチターンユーザシミュレータTRACERを提案する。
リファレンスコホートに組織された実際のカスタマーサービスセッションでは、TRACER-7Bが11.4の変換F1ポイントで最強のベースラインを越えた。
人間のチューリングテストでは、アノテータはTRACERの会話をほぼ精度で識別した。
論文 参考訳(メタデータ) (2026-09-23T18:30:12Z) - Mind the Sim2Real Gap in User Simulation for Agentic Tasks [101.69142591891234]
ユーザシミュレーションにおけるSim2Realのギャップを形式化し、実際の人間に対して$$$-benchプロトコルを実行する最初の研究を示す。
LLMシミュレータは過度に協調的であり、スタイリスティックに均一であり、現実的なフラストレーションや曖昧さを欠いている。
これらの知見は, LLMベースのユーザシミュレータをエージェント開発サイクルで使用する際の人間による検証の重要性を強調した。
論文 参考訳(メタデータ) (2026-03-11T19:12:31Z) - Consistently Simulating Human Personas with Multi-Turn Reinforcement Learning [52.07170679746533]
大規模言語モデル(LLM)は、セラピー、教育、社会的役割プレイといったインタラクティブな環境において、人間のユーザをシミュレートするためにますます使われています。
LLM生成対話におけるペルソナの一貫性の評価と改善のための統一的なフレームワークを提案する。
我々は3つの自動メトリクス、即行一貫性、行間一貫性、Q&A一貫性を定義し、異なるタイプのペルソナドリフトをキャプチャし、それぞれが人間のアノテーションに対して検証する。
論文 参考訳(メタデータ) (2025-10-31T19:40:41Z) - Flipping the Dialogue: Training and Evaluating User Language Models [31.119620506835677]
汎用ユーザ言語モデル(ユーザLM)を紹介する。
ユーザLMは、マルチターン会話で人間のユーザをシミュレートする、ポストトレーニング後のモデルである。
ユーザLMが人間の行動とどのように一致しているかを示し、既存のシミュレーション手法よりも優れたシミュレーションロバスト性を実現する。
論文 参考訳(メタデータ) (2025-10-08T01:04:36Z) - SimulatorArena: Are User Simulators Reliable Proxies for Multi-Turn Evaluation of AI Assistants? [61.07963107032645]
大規模言語モデル(LLM)は、対話型アプリケーションでますます使われている。
人間の評価は、マルチターン会話におけるパフォーマンスを評価するためのゴールドスタンダードのままである。
我々は、909の注釈付き人間とLLMの会話を2つの対話タスクで行うベンチマークであるSimulatorArenaを紹介した。
論文 参考訳(メタデータ) (2025-10-06T23:17:44Z) - User Behavior Simulation with Large Language Model based Agents [116.74368915420065]
LLMベースのエージェントフレームワークを提案し,実際のユーザ動作をシミュレートするサンドボックス環境を設計する。
実験結果から,本手法のシミュレーション行動は実人の行動に非常に近いことが判明した。
論文 参考訳(メタデータ) (2023-06-05T02:58:35Z) - Multi-Agent Task-Oriented Dialog Policy Learning with Role-Aware Reward
Decomposition [64.06167416127386]
本稿では,システムとユーザの両方をダイアログエージェントとみなすマルチエージェントダイアログポリシー学習を提案する。
2人のエージェントが互いに相互作用し、同時に一緒に学習されます。
その結果,本手法がシステムポリシとユーザポリシを同時に構築できることが示唆された。
論文 参考訳(メタデータ) (2020-04-08T04:51:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。