論文の概要: When Patients Cut In: Extending Clinical Conversational AI Safety to Interruptions
- arxiv url: http://arxiv.org/abs/2608.29241v1
- Date: Sat, 29 Aug 2026 12:54:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-01 18:31:30.897087
- Title: When Patients Cut In: Extending Clinical Conversational AI Safety to Interruptions
- Title（参考訳）: 患者が治療を受けるとき: 臨床会話型AIの安全性を中断まで拡張する
- Abstract要約: 現在、臨床音声治療薬は日常的な治療に使われており、実際の患者は順番を待たない。
臨床会話AIベンチマークは、患者がエージェントが完了するのを待つとほぼ普遍的に仮定する。
本報告では,対話分析の重複カテゴリを3種類の運用タイプに適応させて,割り込み回復の評価を行う。
- 参考スコア（独自算出の注目度）: 1.759008116536278
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Clinical voice agents are now deployed in routine care, where real patients do not wait their turn: they interrupt. These systems typically use a cascaded architecture (speech-to-text -> LLM -> text-to-speech), so when a patient cuts the agent off mid-utterance, clinically required content can be lost even when the model handles cooperative transcripts well. Yet clinical conversational-AI benchmarks almost universally assume patients wait for the agent to finish, missing interruption-induced loss of required content. We present a transcript-based evaluation of interruption recovery, adapting conversation-analytic overlap categories into three operational types (recognitional, competitive, transitional sub-unit) and testing four deployment-oriented, non-reasoning LLM configurations across four cells spanning history-taking (information gathering) and FAQ (information provision), scored on whether the agent preserves the clinically required content. In the gathering cells, target-question failure varied across models; in the provision cells, where arms are directly comparable, failure rose for every model. Rankings differ across cells, and competitive FAQ interruption produced 30/30 provision-coverage failures for all four models (Wilson 95% CI: 88.6-100.0%; baseline 0/30 for three, 4/30 for Llama). A brief apology marker ("sorry to interrupt") shifts recovery by tens of percentage points, inconsistently across models, and for one it reduces recovery. Interruption robustness therefore cannot be a single score: evaluation must be content-grounded, reported per cell, and matched to the deployment's interruption profile.
- Abstract（参考訳）: 現在、臨床音声治療薬は日常的な治療に使われており、実際の患者は順番を待たない。
これらのシステムは典型的にはカスケードアーキテクチャ(speech-to-text -> LLM-> text-to-speech)を使用するため、患者がエージェントを中発音声から切り離すと、モデルが協調転写をうまく処理しても臨床上要求される内容が失われる。
しかし、臨床対話型AIベンチマークでは、患者がエージェントが完了するのを待つとほぼ普遍的に仮定している。
本報告では,3種類の作業タイプ(認知的,競争的,移行的サブユニット)に会話分析の重複カテゴリを適応し,履歴収集(情報収集)とFAQ(情報提供)にまたがる4つのセルにわたるデプロイメント指向のLCM構成を試験する。
収集セルでは、標的探索の故障はモデルによって異なるが、供給セルでは、アームが直接的に比較できるため、各モデルで障害が増加した。
ランキングはセルごとに異なり、競争力のあるFAQ割り込みは4つのモデルすべてで30/30のプロビジョニング・カバー障害を発生させた(Wilson 95% CI: 88.6-100.0%;baseline 0/30 for three, 4/30 for Llama)。
短い謝罪マーカー("sorry to interrupt")は、回復を数十パーセンテージポイント、モデル間で矛盾なくシフトさせ、それに対して回復を減少させる。
したがって、割り込み堅牢性は単一のスコアにはならない。評価はコンテントグラウンドで行われ、セル毎に報告され、デプロイメントの割り込みプロファイルと一致しなければならない。
関連論文リスト
- PatientAgentBench: A Benchmark Framework for Evaluating Patient-Facing Health AI Agents [5.247635961504091]
patientAgentBenchは、患者が直面するエージェント医療をベンチマークする。
シミュレーションされた患者と会話しながら、医療ツールのサンドボックスでエージェントにラップされた基礎モデルを評価する。
同じ1200のシナリオで、同じ4つのファミリーで10のモデルをベンチマークし、臨床的なギャップを見つけました。
論文 参考訳（メタデータ） (2026-07-28T09:24:04Z) - Agentic AI-based Framework for Mitigating Premature Diagnostic Handoff and Silent Hallucination in Healthcare Applications [17.69274632062373]
オープンエンドの会話エージェントは、早期診断ハンドオフとサイレントな臨床幻覚という、2つの重要な障害モードを伴いがちである。
LLM-as-a-judge'のルーティングを決定論的オーケストレーション制約に置き換えることで、両方の問題に対処するマルチエージェントフレームワークを提案する。
本稿では,150症例を対象に,ラマ3.1-70b-インストラクトモデルを用いたシミュレートされた患者エージェントを用いたシステムの評価を行った。
論文 参考訳（メタデータ） (2026-06-16T15:39:19Z) - Evaluating Large Language Models in Dynamic Clinical Decision-Making with Standardized Patient Cases [71.12461204050985]
MedSP1000 (MedSP1000) は、SP由来の臨床エージェント評価のための対話型ベンチマークである。
ピアレビューされたSPの授業ケースを、定義されたSPケーススクリプト、臨床環境コンテキスト、人為的な構造化ルーブリックで実行可能なシナリオに変換する。
MedSP1000を多種多様な汎用および医療用LLMに適用すると、静的ベンチマークの性能がそのような教育シナリオに確実に変換されないことが分かる。
論文 参考訳（メタデータ） (2026-06-03T17:17:16Z) - ClinEnv: An Interactive Multi-Stage Long Horizon EHR Environment for Agents [14.434996950038956]
ClinEnvは、決定論的グラウンドマッチングと、その情報収集方法を通じて、モデルが決定するものをスコア付けする。
ClinEnvは、結果のみの評価に見えない、直接測定可能な情報取得ギャップを作る。
論文 参考訳（メタデータ） (2026-06-01T17:56:26Z) - Detecting Clinical Discrepancies in Health Coaching Agents: A Dual-Stream Memory and Reconciliation Architecture [71.46525715889656]
汎用エージェントメモリシステムは、ユーザの最新のステートメントで古い事実を上書きすることでコヒーレンスを最適化する。
本稿では,患者の物語を構造化された臨床記録から厳密に分離するDual-Stream Memory Architectureを提案する。
675日間のウェルネスコーチングセッションにおいて,26名の患者を対象にこのアーキテクチャを評価した。
論文 参考訳（メタデータ） (2026-04-29T17:59:28Z) - Automating Clinical Information Retrieval from Finnish Electronic Health Records Using Large Language Models [0.0]
ローカルにデプロイ可能なフレームワークは、外部データ転送なしでEHRから直接臨床質問に答える。
オープンソースの大規模言語モデル(LLM)は、4Bから70Bまでのパラメータを完全にオフラインでベンチマークした。
論文 参考訳（メタデータ） (2026-03-27T14:03:51Z) - Same Verdict, Different Reasons: LLM-as-a-Judge and Clinician Disagreement on Medical Chatbot Completeness [49.2667937337333]
不完全な患者の医療反応を検出するために,この仮定をストレステストする。
我々は,2つの臨床診断データセットにわたる3つの粒度(General-Likert,Analytical-Rubric,Dynamic-Checklist)と3つのバックボーンモデルを評価する。
論文 参考訳（メタデータ） (2026-03-26T19:01:55Z) - MedForget: Hierarchy-Aware Multimodal Unlearning Testbed for Medical AI [66.0701326117134]
MedForgetは、階層型を意識したマルチモーダルなアンラーニングテストベッドで、準拠する医療AIシステムを構築する。
既存の手法は,診断性能を低下させることなく,完全かつ階層性に配慮した忘れの解決に苦慮していることを示す。
階層レベルのコンテキストをプロンプトに徐々に追加する再構成攻撃を導入する。
論文 参考訳（メタデータ） (2025-12-10T17:55:06Z) - Conformal Lesion Segmentation for 3D Medical Images [82.92159832699583]
本稿では,データ駆動しきい値の校正をコンフォーマル化することで,テスト時間FNRが目標許容値以下であることを保証する,リスク制約付きフレームワークを提案する。
5つのバックボーンモデルにまたがる6つの3D-LSデータセット上でのCLSの統計的健全性と予測性能を検証し,臨床実践におけるリスク認識セグメンテーションの展開に関する実用的な知見を得た。
論文 参考訳（メタデータ） (2025-10-19T08:21:00Z) - MEDEQUALQA: Evaluating Biases in LLMs with Counterfactual Reasoning [7.167933033102407]
重篤な症状と症状を一定に保ちながら,患者代名詞のみを摂動する反ファクト・ベンチマークであるMEDEQUALQAを紹介する。
我々は、GPT-4.1モデルを評価し、代名詞の変種間の安定性を測定するために、推論トレース間のセマンティックテキスト類似性(STS)を計算する。
以上の結果から,総じて高い類似性(平均STS >0.80)を示した。
論文 参考訳（メタデータ） (2025-10-09T22:12:58Z) - Automatically measuring speech fluency in people with aphasia: first
achievements using read-speech data [55.84746218227712]
本研究の目的は,言語習得の分野で開発された信号処理algorithmの関連性を評価することである。
論文 参考訳（メタデータ） (2023-08-09T07:51:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。