論文の概要: TRACER: Trajectory-Aligned Learning for Multi-Turn User Simulation
- arxiv url: http://arxiv.org/abs/2609.28690v2
- Date: Mon, 28 Sep 2026 09:34:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-29 21:31:51.740023
- Title: TRACER: Trajectory-Aligned Learning for Multi-Turn User Simulation
- Title(参考訳): TRACER:マルチターンユーザシミュレーションのための軌道適応学習
- Abstract要約: ユーザ意図の進化をモデル化し,シミュレーションされた軌跡を実物と整合させるマルチターンユーザシミュレータTRACERを提案する。
リファレンスコホートに組織された実際のカスタマーサービスセッションでは、TRACER-7Bが11.4の変換F1ポイントで最強のベースラインを越えた。
人間のチューリングテストでは、アノテータはTRACERの会話をほぼ精度で識別した。
- 参考スコア(独自算出の注目度): 13.030102131786906
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Faithful user simulation is fundamental to building, evaluating, and improving interactive AI at scale. Yet current simulators often produce plausible individual responses without reproducing the intent evolution and outcomes observed in real interactions. We propose TRACER, a multi-turn user simulator that models evolving user intent and aligns simulated trajectories with real ones. TRACER is trained in two stages: supervised fine-tuning on real user dialogues, followed by multi-turn reinforcement learning. The RL stage combines hierarchical outcome- and trajectory-level rewards with deviation-aware advantage modulation, jointly addressing reward sparsity and credit assignment challenges in long dialogues. On real customer-service sessions organized into reference cohorts, TRACER-7B surpasses the strongest baseline by 11.4 conversion F1 points, while outperforming all baselines on group-level conversion-rate error and semantic trajectory distance and generalizing to out-of-distribution scenarios. In human Turing tests, annotators identified TRACER conversations at near-chance accuracy. Building on this simulator, we further introduce the Dynamic Marketing Benchmark, which jointly evaluates persuasion and response quality via simulated interactions, revealing that higher response quality does not necessarily correspond to higher conversion rates.
- Abstract(参考訳): 忠実なユーザーシミュレーションは、大規模に対話型AIを構築し、評価し、改善するための基本となる。
しかし、現在のシミュレータは、実際の相互作用で観察される意図の進化と結果を再現することなく、もっともらしい個々の応答をしばしば生成する。
ユーザ意図の進化をモデル化し,シミュレーションされた軌道を実物と整合させるマルチターンユーザシミュレータTRACERを提案する。
TRACERは、実際のユーザ対話の教師付き微調整と、マルチターン強化学習の2段階で訓練されている。
RLステージは階層的な結果と軌道レベルの報酬と偏差を意識した有利な変調を組み合わせ、長期対話における報酬の分散と信用割り当ての課題に共同で対処する。
リファレンスコホートに編成された実際の顧客サービスセッションにおいて、TRACER-7Bは最強のベースラインを11.4の変換F1ポイントで上回り、グループレベルの変換レートエラーとセマンティックトラジェクトリ距離で全てのベースラインを上回り、配布外シナリオに一般化する。
人間のチューリングテストでは、アノテータはTRACERの会話をほぼ精度で識別した。
このシミュレータ上に構築したDynamic Marketing Benchmarkは,シミュレーションによる対話による説得と応答の質を共同で評価し,高い応答品質が必ずしも高い変換速度に対応していないことを示す。
関連論文リスト
- Measuring and Mitigating the Distributional Gap Between Real and Simulated User Behaviors [61.610957638373826]
本研究では,実際のユーザ行動とシミュレーションユーザ行動の分布ギャップを計測する手法を提案する。
実会話とシミュレーション会話のデータセットが与えられた場合,本手法は各会話からユーザ行動の表現を抽出する。
ほとんどのシミュレータも同様に振る舞うが、いくつかは独立している。
論文 参考訳(メタデータ) (2026-05-08T15:09:25Z) - MUSE: Multi-Domain Chinese User Simulation via Self-Evolving Profiles and Rubric-Guided Alignment [15.586402133245313]
MUSEは、人間らしく、制御可能で、動作に一貫性のある応答を生成するために設計された中国のユーザーシミュレーションフレームワークである。
局所的な反応リアリズムと人間のような表現を改善するために,反復プロファイルの自己進化とロールリバーサル・スーパーバイザード・ファインタニングを提案する。
実験により、MUSEは発話レベルとセッションレベルの両方の評価において、強いベースラインを一貫して上回ることが示された。
論文 参考訳(メタデータ) (2026-04-15T13:01:00Z) - Mind the Sim2Real Gap in User Simulation for Agentic Tasks [101.69142591891234]
ユーザシミュレーションにおけるSim2Realのギャップを形式化し、実際の人間に対して$$$-benchプロトコルを実行する最初の研究を示す。
LLMシミュレータは過度に協調的であり、スタイリスティックに均一であり、現実的なフラストレーションや曖昧さを欠いている。
これらの知見は, LLMベースのユーザシミュレータをエージェント開発サイクルで使用する際の人間による検証の重要性を強調した。
論文 参考訳(メタデータ) (2026-03-11T19:12:31Z) - HumanLM: Simulating Users with State Alignment Beats Response Imitation [84.89761487596844]
本稿では,実際のユーザを正確に反映したユーザシミュレータを構築する新しいトレーニングフレームワークHumanLMを提案する。
HumanLMは、強化学習を通じて、地道的な応答に一致した自然言語の潜伏状態を生成する。
本研究では,公開データに基づく実ユーザシミュレーションのための総合的なベンチマークであるHumanualを開発する。
論文 参考訳(メタデータ) (2026-02-07T20:26:28Z) - Adversarial Training for Failure-Sensitive User Simulation in Mental Health Dialogue Optimization [1.964225730132177]
効果的なシミュレータの重要な特性は、評価したシステムの障害モードを公開する能力である。
本稿では,ジェネレータ(ユーザシミュレータ)とディスクリミネータの競合ダイナミクスを用いて,ユーザシミュレータリアリズムを改善するための逆トレーニングフレームワークを提案する。
論文 参考訳(メタデータ) (2025-12-23T21:21:08Z) - See, Think, Act: Online Shopper Behavior Simulation with VLM Agents [58.92444959954643]
本稿では,視覚情報,特にWebページスクリーンショットのVLMによる動作シミュレーションへの統合について検討する。
我々は,協調行動予測と合理化生成にSFTを用いて,相互作用の完全な文脈を条件づける。
推論能力をさらに強化するため,RLを階層的な報酬構造と統合し,難易度因子によって拡張する。
論文 参考訳(メタデータ) (2025-10-22T05:07:14Z) - Dyna-Mind: Learning to Simulate from Experience for Better AI Agents [62.21219817256246]
私たちは、現在のAIエージェントは、行動する前に、別の未来を精神的にシミュレートする能力である「悪意ある試行錯誤」を必要としていると論じます。
我々は、(V)LMエージェントに対して、そのようなシミュレーションを推論に組み込むように明示的に教える2段階のトレーニングフレームワークであるDyna-Mindを紹介した。
論文 参考訳(メタデータ) (2025-10-10T17:30:18Z) - UserRL: Training Interactive User-Centric Agent via Reinforcement Learning [104.63494870852894]
強化学習(Reinforcement Learning, RL)は、動的多ターン相互作用に関わるエージェントモデルのトレーニングにおいて有望であることを示す。
我々は,標準化された体育環境を通じて,ユーザ中心の能力のトレーニングと評価を行う統一的なフレームワークであるUserRLを提案する。
論文 参考訳(メタデータ) (2025-09-24T03:33:20Z) - Know You First and Be You Better: Modeling Human-Like User Simulators via Implicit Profiles [37.43150003866563]
我々は,人間と機械のインタラクションから暗黙のユーザプロファイルを推論し,パーソナライズされたリアルな対話をシミュレートする,インプリシットプロファイル付きユーザシミュレータ(USP)を紹介する。
USPは、同等の一貫性を維持しながら、信頼性と多様性の点で、強力なベースラインを上回ります。
論文 参考訳(メタデータ) (2025-02-26T09:26:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。