論文の概要: SIM-UT: A User Simulation based Evaluation Framework for Medical Triage Chatbots

• arxiv url: http://arxiv.org/abs/2610.30412v1
• Date: Wed, 21 Oct 2026 20:14:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-24 02:08:44.127748
• Title: SIM-UT: A User Simulation based Evaluation Framework for Medical Triage Chatbots
• Title（参考訳）: SIM-UT: 医用トリアージチャットボットのためのユーザシミュレーションに基づく評価フレームワーク
• Abstract要約: シミュレーションに基づくマルチターン評価手法SIM-UTを提案する。 現実のWhatsAppベースのヘルスチャットボットを3つ評価した。 両方のモデルファミリで重要な障害モードが出現した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: LLM-based chat agents are increasingly used for complex, multi-turn, multilingual medical triage in low- and middle-income countries (LMICs), yet evaluation methods focus on single-turn, English-only benchmarks that primarily test the chatbots' knowledge. In practice, users are often confused, overwhelmed, or emotionally vulnerable, giving unclear, misspelled single-word answers or long messages in regional dialects, and the context of a conversation can shift rapidly. We propose SIM-UT (Simulation of User Behaviour for Triage), a multi-turn, simulation-based evaluation method that identifies ecologically valid, contextually relevant failure modes of LLM-based triage chat agents. Using SIM-UT, we evaluated three real-world WhatsApp-based health chatbots: a respiratory screening programme in India, a hearing health support programme in South Africa, and a diabetes and lifestyle coaching agent in Kenya. We compared a medically fine-tuned open model (MedGemma) against general-purpose frontier models (ChatGPT and Claude) across 5,000+ multilingual simulated conversation turns grounded in the personas, constraints, and communication patterns of the real user populations, over 2-4 iterative rounds. A key failure mode emerged in both model families: de-escalation risk. The agents initially identified medical emergencies correctly, but when the user minimised the symptoms without introducing new clinical information, they de-escalated, exhibiting clinically dangerous sycophancy, for example agreeing that vaginal bleeding in pregnancy was "not a problem" or that decreased fetal movements at 32 weeks "can be normal". We recommend user simulation-based behavioural evaluation, grounded in real user context and covering adversarial and edge cases, as standard practice for triage chatbots in production, so that safeguards can be added before deployment or in subsequent iterations.
• Abstract（参考訳）: LLMベースのチャットエージェントは、低所得国や中所得国(LMIC)における複雑で多言語的な医療トリアージ(英語版)にますます利用されているが、評価手法はチャットボットの知識を主にテストするシングルターン、英語のみのベンチマークに焦点を当てている。 実際には、ユーザーはしばしば混乱し、圧倒され、感情的に脆弱で、不明瞭で不明瞭な単一単語の回答や地域方言の長いメッセージを与え、会話の文脈は急速に変化する。 SIM-UT(Simulation of User Behaviour for Triage)は,LLMベースのトリアージチャットエージェントにおいて,生態学的に有効な,文脈的に関連する障害モードを識別するマルチターンシミュレーションに基づく評価手法である。 SIM-UTを用いて、インドの呼吸スクリーニングプログラム、南アフリカの聴覚健康支援プログラム、ケニアの糖尿病およびライフスタイルコーチングエージェントの3つの現実のWhatsAppベースの健康チャットボットを評価した。 医学的に微調整されたオープンモデル (MedGemma) と汎用フロンティアモデル (ChatGPT, Claude) を比較した。 両方のモデルファミリに重要な障害モードが出現した。 エージェントは当初、医学的緊急事態を正しく認識していたが、新しい臨床情報を導入せずに症状を最小化した場合、彼らは脱エスカレートし、臨床的に危険な梅毒を呈し、例えば妊娠中の電子的出血は「問題ではない」か、32週で胎児の動きが「正常になる可能性がある」と同意した。 実運用環境でのトリアージチャットボットの標準的な実践として,ユーザシミュレーションに基づく行動評価を現実のユーザコンテキストに根ざし,敵とエッジのケースをカバーし,デプロイやその後のイテレーションでセーフガードを追加することを推奨する。

関連論文リスト

• VERA-MH: Validation of Ethical and Responsible AI in Mental Health [0.0]
  精神保健支援の文脈において,チャットボットの安全性に関する臨床的に検証された新しい評価であるVERA-MHを紹介する。 VERA-MHは会話シミュレーション、会話判定、モデル評価の3つのステップから構成される。
  論文  参考訳（メタデータ） (2026-05-13T10:31:48Z)
• Developing and evaluating a chatbot to support maternal health care [20.297280325309924]
  本稿では,インドにおける母体保健ロボットについて,学術研究者,医療技術企業,公衆衛生非営利団体,病院との共同研究を通じて紹介する。 本システムは,(1)ステージアウェアトリアージ,(2)専門家テンプレートへのハイリスククエリのルーティング,(2)母子・新生児ガイドラインのハイブリッド検索,(3)LCMからのエビデンス条件付き生成を組み合わせた。 当社のコアコントリビューションは、専門家の限られた監督の下での、ハイテイクデプロイメントの評価ワークフローです。
  論文  参考訳（メタデータ） (2026-03-13T17:02:05Z)
• HumanLM: Simulating Users with State Alignment Beats Response Imitation [84.89761487596844]
  本稿では,実際のユーザを正確に反映したユーザシミュレータを構築する新しいトレーニングフレームワークHumanLMを提案する。 HumanLMは、強化学習を通じて、地道的な応答に一致した自然言語の潜伏状態を生成する。 本研究では,公開データに基づく実ユーザシミュレーションのための総合的なベンチマークであるHumanualを開発する。
  論文  参考訳（メタデータ） (2026-02-07T20:26:28Z)
• Consistently Simulating Human Personas with Multi-Turn Reinforcement Learning [52.07170679746533]
  大規模言語モデル(LLM)は、セラピー、教育、社会的役割プレイといったインタラクティブな環境において、人間のユーザをシミュレートするためにますます使われています。 LLM生成対話におけるペルソナの一貫性の評価と改善のための統一的なフレームワークを提案する。 我々は3つの自動メトリクス、即行一貫性、行間一貫性、Q&A一貫性を定義し、異なるタイプのペルソナドリフトをキャプチャし、それぞれが人間のアノテーションに対して検証する。
  論文  参考訳（メタデータ） (2025-10-31T19:40:41Z)
• VERA-MH Concept Paper [0.0]
  本稿では,メンタルヘルスにおけるAIチャットボットの安全性を自動評価するVERA-MHを紹介する。 プロセスを完全に自動化するために、2つのアシラリーAIエージェントを使用しました。 シミュレーションされた会話は、そのルーリックに基づいてそれらをスコアする審査員に渡される。
  論文  参考訳（メタデータ） (2025-10-17T04:07:29Z)
• Metaphorical User Simulators for Evaluating Task-oriented Dialogue Systems [80.77917437785773]
  タスク指向対話システム(TDS)は、主にオフラインまたは人間による評価によって評価される。 本稿では,エンド・ツー・エンドのTDS評価のためのメタファ型ユーザシミュレータを提案する。 また,異なる機能を持つ対話システムなどの変種を生成するためのテスタベースの評価フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-04-02T05:11:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。