論文の概要: Auditing Escalation Reliability in Healthcare LLM Agents: A Perturbation-Controlled Benchmark of Workflow-State Failures
- arxiv url: http://arxiv.org/abs/2610.21270v1
- Date: Thu, 15 Oct 2026 05:04:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-16 19:13:16.198649
- Title: Auditing Escalation Reliability in Healthcare LLM Agents: A Perturbation-Controlled Benchmark of Workflow-State Failures
- Title（参考訳）: 医療用LLMエージェントにおけるエスカレーション信頼性の検証:ワークフロー状態障害の経時的評価
- Abstract要約: 我々は、400の総合医療ワークフローエピソードとしてエピソードレベルの評価プロトコルをインスタンス化する。
4つのタスククラスに40個の手書きセマンティックシード、2つの表面パラメータ化、5つの制御された変種。
明確な決定精度は0.97に達するが、不確実性のあるモデルでは、必要なエスカレーションの32--97%を見逃している。
- 参考スコア（独自算出の注目度）: 4.287745257410248
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Trustworthy biomedical AI requires reliable action selection when evidence is missing, stale, conflicting, or late, not only accurate answers on static inputs. We instantiate an episode-level evaluation protocol as 400 synthetic healthcare workflow episodes: 40 hand-authored semantic seeds across four task classes, two surface parameterizations, and five controlled variants, scored on ANSWER/ASK CLARIFICATION/ABSTAIN/ESCALATE under a pre-declared 5:1 missed-versus-unnecessary escalation cost. Reference actions are single-author study-policy labels, not clinician-adjudicated ground truth. Across five open-weight configurations (1.7B--9.7B), clean decision accuracy reaches 0.97, yet uncertainty-prompted models miss 32--97% of required escalations. The stronger 9.7B configuration narrows but does not remove the gap, falling from 0.97 clean accuracy to 0.78 under conflict. Verbalized confidence is inconsistent (ECE 0.10--0.54; failure AUROC 0.48--0.77), and a development-tuned confidence-only policy yields no utility gain. A transparent workflow-aware controller improves 5:1 utility for every model and reduces missed escalations to 0.12--0.24, at specificity 0.83--0.93. However, a 30-concept lexical stress test reduces each rule detector's recall from 1.00 on trigger phrases to 0.00 on unseen paraphrases, limiting the controller claim to this benchmark. Seed-clustered statistics, ablations, cross-task transfer, raw outputs, and manifests are packaged for audit. The results motivate explicit workflow-state evaluation while showing that apparently effective routing controls need their own generalization tests.
- Abstract（参考訳）: 信頼できるバイオメディカルAIは、静的入力に対する正確な答えだけでなく、証拠の欠如、陳腐化、矛盾、遅滞時に信頼できる行動選択を必要とする。
4つのタスククラスに40個の手書きセマンティックシード、2つの表面パラメータ化、およびANSWER/ASK CLARIFICATION/ABSTAIN/ESCALATEの5:1ミス・ヴァーサス・不要エスカレーションコストに基づいて、エピソードレベルの評価プロトコルをインスタンス化する。
基準行動は単一著者による研究・政治のラベルであり、臨床医が判断する根拠の真実ではない。
5つのオープンウェイト構成(1.7B--9.7B)において、クリーンな決定精度は0.97に達するが、不確実性のあるモデルでは、必要なエスカレーションの32-97%を逃す。強い9.7B構成は狭められるが、紛争下では0.97のクリーンな精度から0.78に低下する。バーバル化信頼は矛盾している(ECE 0.10-0.54; failure AUROC 0.48--0.77)。
透過的なワークフロー対応コントローラは、すべてのモデルの5:1ユーティリティを改善し、エラーエスカレーションを0.12--0.24、具体的には0.83--0.93に削減する。
しかし、30概念の語彙的ストレステストにより、各ルール検出器のリコールがトリガーフレーズで1.00から0.00に減少し、このベンチマークに対するコントローラの主張が制限される。
シードクラスタ統計、アブレーション、クロスタスク転送、生のアウトプット、マニフェストは監査のためにパッケージ化されている。
結果は、明らかにワークフロー状態の評価を動機付け、明らかに効果的なルーティング制御には独自の一般化テストが必要であることを示している。
関連論文リスト
- ConformalGuard: False-Positive-Controlled Action Gating for LM Classifiers [1.182797073319109]
ConformalGuardは、正規入力が介入層をトリガーする速度を有限サンプル制御で固定スコア関数をラップする。
我々は,これらの手法を,公衆メールコーパスにおける細調整BERT,Claude Sonnet 4,GPT-4oの共形校正法と比較した。
論文 参考訳（メタデータ） (2026-10-09T22:39:37Z) - The Model Proposes, the Code Disposes: A Pre-Registered Ablation of a Verifier-and-Acceptance Stage in an LLM-Orchestrated Offensive-Security Agent [0.0]
決定的コードによって検証が強制されるモデル検証装置である検証受理段階が、LCMが主導する攻撃セキュリティエージェントが報告するものを変更するかどうかを評価する。
本報告では,15回の探索パイロット,20回の予備登録検定アブレーション,および2回の故意に脆弱な検査対象を40回実施した2×2因子分析を行った。
検証者はシステムが提供するものを変更し、決定論的コードは強制と監査性を提供します。
論文 参考訳（メタデータ） (2026-09-14T17:13:05Z) - Beyond Pass@k: Measuring Reliability and Security of Agentic Code Generation [2.1734195143282693]
我々は,n = 独立ロールアウトとc = 完全パスロールアウト(タスク,エージェント)ペアで適用したのと同じ推定器であるReliability@kを提案する。
機能的正当性がセキュリティの安全性を示唆しないという証拠によって、セキュリティ調整された信頼性も提案する。
論文 参考訳（メタデータ） (2026-08-11T16:01:15Z) - Suppression Sticks, Locality Is Fragile: A Closed-Loop Target-and-Control Audit of Task-Vector Negation in VLA Policies [33.432377306905735]
タスクベクトル算術は、モデルを修正するためのクローズドフォームな方法を提供するが、クローズドループロボット制御において、その振る舞いの局所性は未だ不明である。
マルチタスク・ビジョン・ランゲージ・アクション(VLA: Multitask Vision-Language-action)ポリシーから,タスク・ベクターごとのタスク・ベクター・サブトラクションのターゲット・アンド・コントロール・監査を行う。
論文 参考訳（メタデータ） (2026-08-05T10:59:53Z) - A Paired Testing Protocol for Batch-Conditioned Refusal Robustness in LLM Serving [0.0]
言語モデルの安全性評価は、サービス構成を固定されたバックグラウンドインフラストラクチャとして扱うことが多い。
我々は4つのアーティファクト支援研究をペアテストプロトコルに合成する。
標準vLLMは、現在のスコアフリップ候補に対して22/55ラベルのフリップを再生し、VLLM_BATCH_INIANT=1を有効にすることで、同じテストを0/55フリップに削減する。
論文 参考訳（メタデータ） (2026-05-26T23:22:55Z) - Distributional Energy-Based Models for Uncertainty-Aware Structured LLM Reasoning [40.342912574072024]
大規模言語モデルは、旅行計画やコードソリューションのような構造化されたアウトプットを生成する。
個々の推論ステップは正しく見えるが、アウトプット全体が予算に違反したり、テストケースに失敗したり、あるいは以前の推論に矛盾することがある。
構造化LCM出力の検証のための決定論的解析制約付き学習品質スコアラを提案する。
論文 参考訳（メタデータ） (2026-05-15T17:08:27Z) - Are Benchmark Tests Strong Enough? Mutation-Guided Diagnosis and Augmentation of Regression Suites [49.16055123488827]
十分に強力なテストスイートは、報告された成功率を膨らませながら、妥当だが意味的に正しくないパッチを認めることができる。
STINGは、意味的に変化するプログラムの変種を診断ストレス要因として利用する、ターゲットテスト拡張のためのフレームワークである。
STINGは211インスタンスにまたがる1014の検証テストを生成し、パッチリージョンラインとブランチカバレッジを10.8%、9.5%向上させた。
論文 参考訳（メタデータ） (2026-04-02T01:13:40Z) - AgentAssay: Token-Efficient Regression Testing for Non-Deterministic AI Agent Workflows [0.0]
AgentAssayは、非決定論的AIエージェントを回帰テストするための最初のトークン効率のよいフレームワークである。
厳密な統計保証を維持しながら78-100%のコスト削減を実現している。
論文 参考訳（メタデータ） (2026-03-03T04:59:25Z) - From Black Box to Glass Box: Cross-Model ASR Disagreement to Prioto Review in Ambient AI Scribe Documentation [43.148402136307716]
異種ASRシステム間のクロスモデル不一致は、基準のない不確実性信号として機能する。
商用APIとオープンソースエンジンにまたがる8つのASRシステムを備えた,50の公開医療用オーディオクリップを転写した。
低アグリメント領域は内容の不一致に富み、高リスク質量のクインタイル全体では53.9%から73.9%に増加した。
論文 参考訳（メタデータ） (2026-03-02T13:02:13Z) - Benchmarking IoT Time-Series AD with Event-Level Augmentations [34.864214444544565]
実世界の問題をシミュレートする統合されたイベントレベル拡張による評価プロトコルを提案する。
5つの公開異常データセット上で14の代表的なモデルを評価する。
論文 参考訳（メタデータ） (2026-02-17T09:45:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。