論文の概要: Beyond Surface Style: Aligning Multi-Turn User Simulators with Behavioral Consistency
- arxiv url: http://arxiv.org/abs/2609.28690v1
- Date: Wed, 23 Sep 2026 18:30:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-25 21:10:09.487642
- Title: Beyond Surface Style: Aligning Multi-Turn User Simulators with Behavioral Consistency
- Title(参考訳): サーフェススタイルを超えて - 動作整合性を備えたマルチターンユーザシミュレータのアライメント
- Abstract要約: 提案するTRACERは,ユーザの進化意図を明示的にモデル化し,シミュレーション行動と実際の対話軌道との整合性を学習するマルチターンユーザシミュレータである。
リファレンスコホートに組織された実際のカスタマーサービスセッションでは、TRACER-7Bが11.4変換F1で最強のベースラインを突破した。
人間のチューリングテストでは、偶然に近い識別精度が得られ、生成された会話の自然性を支持する。
- 参考スコア(独自算出の注目度): 13.030102131786906
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Faithful user simulation is fundamental to building, evaluating, and improving interactive AI at scale. However, plausible individual responses do not ensure that simulated users reproduce the intent evolution and outcomes observed in real interactions. We propose TRACER, a multi-turn user simulator that explicitly models users' evolving intent and learns to align simulated behavior with real interaction trajectories. TRACER is trained in two stages: supervised fine-tuning on real user dialogues, followed by multi-turn reinforcement learning. The RL stage combines hierarchical outcome- and trajectory-level rewards with deviation-aware advantage modulation, jointly mitigating reward sparsity and credit assignment in long dialogues. On real customer-service sessions organized into reference cohorts, TRACER-7B surpasses the strongest baseline by 11.4 conversion F1, while also achieving the lowest group-level conversion-rate error and semantic trajectory distance, and generalizing to out-of-distribution scenarios. Human Turing tests yield identification accuracy close to chance, supporting the perceived naturalness of generated conversations. Building on this simulator, we further introduce the Dynamic Marketing Benchmark, which jointly evaluates persuasion effectiveness and response quality of LLMs through simulated interactions, revealing that higher response quality does not necessarily correspond to higher conversion rates.
- Abstract(参考訳): 忠実なユーザーシミュレーションは、大規模に対話型AIを構築し、評価し、改善するための基本となる。
しかし、もっともらしい個々の反応は、シミュレーションされたユーザーが実際の相互作用で観察される意図の進化と成果を再現することを保証するものではない。
提案するTRACERは,ユーザの進化意図を明示的にモデル化し,シミュレーション行動と実際の対話軌道との整合性を学習するマルチターンユーザシミュレータである。
TRACERは、実際のユーザ対話の教師付き微調整と、マルチターン強化学習の2段階で訓練されている。
RLステージは階層的な結果とトラジェクトリレベルの報酬と偏差を考慮した有利な変調を組み合わせ、長い対話において報酬の間隔とクレジットの割り当てを和らげる。
リファレンスコホートに編成された実際の顧客サービスセッションでは、TRACER-7Bは最強のベースラインを11.4変換F1で越え、グループレベルの変換レートエラーとセマンティックな軌道距離を達成し、配布外のシナリオに一般化する。
人間のチューリングテストでは、偶然に近い識別精度が得られ、生成された会話の自然性を支持する。
このシミュレータ上に構築したDynamic Marketing Benchmarkは,シミュレーションインタラクションによるLCMの説得効率と応答品質を共同評価し,高い応答品質が必ずしも高い変換速度に対応していないことを示す。
関連論文リスト
- Measuring and Mitigating the Distributional Gap Between Real and Simulated User Behaviors [61.610957638373826]
本研究では,実際のユーザ行動とシミュレーションユーザ行動の分布ギャップを計測する手法を提案する。
実会話とシミュレーション会話のデータセットが与えられた場合,本手法は各会話からユーザ行動の表現を抽出する。
ほとんどのシミュレータも同様に振る舞うが、いくつかは独立している。
論文 参考訳(メタデータ) (2026-05-08T15:09:25Z) - MUSE: Multi-Domain Chinese User Simulation via Self-Evolving Profiles and Rubric-Guided Alignment [15.586402133245313]
MUSEは、人間らしく、制御可能で、動作に一貫性のある応答を生成するために設計された中国のユーザーシミュレーションフレームワークである。
局所的な反応リアリズムと人間のような表現を改善するために,反復プロファイルの自己進化とロールリバーサル・スーパーバイザード・ファインタニングを提案する。
実験により、MUSEは発話レベルとセッションレベルの両方の評価において、強いベースラインを一貫して上回ることが示された。
論文 参考訳(メタデータ) (2026-04-15T13:01:00Z) - Mind the Sim2Real Gap in User Simulation for Agentic Tasks [101.69142591891234]
ユーザシミュレーションにおけるSim2Realのギャップを形式化し、実際の人間に対して$$$-benchプロトコルを実行する最初の研究を示す。
LLMシミュレータは過度に協調的であり、スタイリスティックに均一であり、現実的なフラストレーションや曖昧さを欠いている。
これらの知見は, LLMベースのユーザシミュレータをエージェント開発サイクルで使用する際の人間による検証の重要性を強調した。
論文 参考訳(メタデータ) (2026-03-11T19:12:31Z) - HumanLM: Simulating Users with State Alignment Beats Response Imitation [84.89761487596844]
本稿では,実際のユーザを正確に反映したユーザシミュレータを構築する新しいトレーニングフレームワークHumanLMを提案する。
HumanLMは、強化学習を通じて、地道的な応答に一致した自然言語の潜伏状態を生成する。
本研究では,公開データに基づく実ユーザシミュレーションのための総合的なベンチマークであるHumanualを開発する。
論文 参考訳(メタデータ) (2026-02-07T20:26:28Z) - Adversarial Training for Failure-Sensitive User Simulation in Mental Health Dialogue Optimization [1.964225730132177]
効果的なシミュレータの重要な特性は、評価したシステムの障害モードを公開する能力である。
本稿では,ジェネレータ(ユーザシミュレータ)とディスクリミネータの競合ダイナミクスを用いて,ユーザシミュレータリアリズムを改善するための逆トレーニングフレームワークを提案する。
論文 参考訳(メタデータ) (2025-12-23T21:21:08Z) - See, Think, Act: Online Shopper Behavior Simulation with VLM Agents [58.92444959954643]
本稿では,視覚情報,特にWebページスクリーンショットのVLMによる動作シミュレーションへの統合について検討する。
我々は,協調行動予測と合理化生成にSFTを用いて,相互作用の完全な文脈を条件づける。
推論能力をさらに強化するため,RLを階層的な報酬構造と統合し,難易度因子によって拡張する。
論文 参考訳(メタデータ) (2025-10-22T05:07:14Z) - Dyna-Mind: Learning to Simulate from Experience for Better AI Agents [62.21219817256246]
私たちは、現在のAIエージェントは、行動する前に、別の未来を精神的にシミュレートする能力である「悪意ある試行錯誤」を必要としていると論じます。
我々は、(V)LMエージェントに対して、そのようなシミュレーションを推論に組み込むように明示的に教える2段階のトレーニングフレームワークであるDyna-Mindを紹介した。
論文 参考訳(メタデータ) (2025-10-10T17:30:18Z) - UserRL: Training Interactive User-Centric Agent via Reinforcement Learning [104.63494870852894]
強化学習(Reinforcement Learning, RL)は、動的多ターン相互作用に関わるエージェントモデルのトレーニングにおいて有望であることを示す。
我々は,標準化された体育環境を通じて,ユーザ中心の能力のトレーニングと評価を行う統一的なフレームワークであるUserRLを提案する。
論文 参考訳(メタデータ) (2025-09-24T03:33:20Z) - Know You First and Be You Better: Modeling Human-Like User Simulators via Implicit Profiles [37.43150003866563]
我々は,人間と機械のインタラクションから暗黙のユーザプロファイルを推論し,パーソナライズされたリアルな対話をシミュレートする,インプリシットプロファイル付きユーザシミュレータ(USP)を紹介する。
USPは、同等の一貫性を維持しながら、信頼性と多様性の点で、強力なベースラインを上回ります。
論文 参考訳(メタデータ) (2025-02-26T09:26:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。