論文の概要: The Clinician's Veto: Navigating Trust, Liability, and Uncertainty in Autonomous AI Prescribing
- arxiv url: http://arxiv.org/abs/2606.25108v1
- Date: Tue, 23 Jun 2026 19:28:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-25 17:05:30.126539
- Title: The Clinician's Veto: Navigating Trust, Liability, and Uncertainty in Autonomous AI Prescribing
- Title（参考訳）: 臨床医のベト:自律型AI処方における信頼、責任、不確かさをナビゲートする
- Authors: Eileanor LaRocco, Sarah Tan, Adarsh Subbaswamy, Anne Andrews, Andrew Taylor, Cree Gaskin, Chirag Agarwal,
- Abstract要約: アメリカの法案H.R.238とユタ州の処方薬更新パイロットはどちらも、エージェント能力で医薬品を処方するAIを認可している。
我々は、安全な自律的な処方のための最小限のアーキテクチャ要件として、これらを位置づける規制と技術的議論を示す。
- 参考スコア（独自算出の注目度）: 13.18232326064542
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Autonomous AI systems are transitioning from advisory to autonomous roles for medication prescriptions. Recent United States bill H.R. 238 and Utah's prescription-renewal pilot both authorize AI to prescribe medications in an agentic capacity. While some regulatory guidelines suggest aggregate model performance metrics for clearance, they do not require i) calibrated per-prediction confidence for action-gated thresholds, ii) differentiated communication of uncertainty arising from model ignorance (epistemic) versus genuine clinical ambiguity (aleatoric), and iii) inferential transparency at the moment of decision that allows for liability allocation. Here, we present a regulatory and technical argument (tested with a survey of 136 U.S. prescribing clinicians) positioning these as minimum architectural requirements for safe autonomous prescribing. Our results suggest prescribing clinicians i) would not permit autonomous prescribing without a calibrated confidence-based escalation mechanism, ii) preferred a competing-options summary when uncertainty was aleatoric but shifted to abstention when uncertainty was epistemic, and iii) were only willing to accept additional liability when inferential transparency enabled a substantive judgment under acknowledged uncertainty. These findings indicate our recommended architectural features would encourage higher rates of clinician adoption, largely through collapsing much of what "autonomy" conventionally means. A system meeting these requirements would function less as an autonomous agent and more as a heavily supervised decision-support tool. As legislation and state pilots proceed, our technical argument backed by clinician perspectives provides opportunities for regulation to constrain the degree of autonomy ethically granted to AI in prescribing while aligning liability with the institutional actors who control system design and deployment.
- Abstract（参考訳）: 自律的なAIシステムは、処方薬のアドバイザリーから自律的な役割へと移行している。
近年のアメリカ合衆国法案H.R.238とユタ州の処方薬更新パイロットはどちらも、エージェント能力で医薬品を処方するAIを認可している。
いくつかの規制ガイドラインは、クリアランスのためのモデルパフォーマンス指標を集約することを推奨するが、それらは不要である
一 アクションゲート閾値の予測毎の信頼度を校正すること。
二 モデル無知(疫学)と真の臨床曖昧さ(霊長類)から生じる不確実性のコミュニケーションとを区別すること。
三 債務配分を許す決定の時における不確実な透明性
ここでは、安全な自律的処方のための最小限のアーキテクチャ要件として、規制と技術的議論(米国の処方医136名による調査で検証)を示す。
以上の結果から, 臨床医の立場が示唆される。
一 信用度に基づくエスカレーション機構を校正することなく、自律的な処方を許さないこと。
二 不確実性があるときの競合オプション要約を好むが、不確実性がてんかんであるときの棄権に移行し、
三 虚偽の透明性により確定的判断が確定したときのみ、追加責任を受理する意思があったこと。
これらの結果から,推奨される建築的特徴は,従来の「自律性」が意味するところの大部分を崩壊させることで,臨床導入率の向上につながることが示唆された。
これらの要件を満たすシステムは、自律的なエージェントとしての役割を減らし、より監督された意思決定支援ツールとして機能する。
法律と州のパイロットが進むにつれて、臨床の視点に支えられた技術的議論は、システム設計とデプロイメントを管理する機関のアクターと責任を整合させながら、AIに倫理的に与えられる自治の程度を規制する機会を提供する。
関連論文リスト
- Medical Model Synthesis Architectures: A Case Study [72.46211022258122]
現在のAIシステムは、不確実性の下で調整された推論に苦労している。
我々は,不確実性の下で,現実的に有用だが公式に透過的な臨床予測を行うことができるAIシステムのためのフレームワークを提案する。
このフレームワークの最初の概念実証は、どのようにして差分診断に利用できるかを示す。
論文 参考訳（メタデータ） (2026-05-10T19:30:16Z) - From Black-Box Confidence to Measurable Trust in Clinical AI: A Framework for Evidence, Supervision, and Staged Autonomy [0.0]
臨床人工知能(AI)の信頼度は、精度、生成の頻度、全体的な肯定的なユーザ印象のモデル化に還元できない。
本稿では、エビデンス、監督、ステージド自律性という3つの原則に基づいて構築された、信頼できる臨床AIのためのフレームワークを提案する。
論文 参考訳（メタデータ） (2026-04-29T13:40:14Z) - Beyond Prompt: Fine-grained Simulation of Cognitively Impaired Standardized Patients via Stochastic Steering [58.85421622061983]
認知障害患者の微粒化シミュレーションのためのStsPatientを提案する。
対照的な命令と応答のペアからステアリングベクトルを抽出することにより、ドメイン固有の特徴を捉える。
StsPatientは、臨床の信頼性と重症度の両方において、ベースラインを著しく上回る。
論文 参考訳（メタデータ） (2026-04-14T02:37:46Z) - Authority-Level Priors: An Under-Specified Constraint in Hierarchical Predictive Processing [0.0]
オーソリティ・レベル優先(英: Authority-Level Priors、ALP)は、アイデンティティレベルの仮説の規制が許容できるサブセットを定義するメタ構造制約である。
ALPは、追加の表現状態や精度よりも高優先度であり、規制制御に許容される仮説を制約している。
計算形式化は、認可された仮説によって生成されるポリシーに対するポリシー最適化を制限する。
論文 参考訳（メタデータ） (2026-03-19T13:27:47Z) - Mirror: A Multi-Agent System for AI-Assisted Ethics Review [104.3684024153469]
MirrorはAIによる倫理的レビューのためのエージェントフレームワークである。
倫理的推論、構造化された規則解釈、統合されたアーキテクチャ内でのマルチエージェントの議論を統合する。
論文 参考訳（メタデータ） (2026-02-09T03:38:55Z) - The Doctor Will (Still) See You Now: On the Structural Limits of Agentic AI in Healthcare [18.202521625229732]
我々は、開発者、実装者、エンドユーザーを含む20人の利害関係者へのインタビューに基づく質的研究を提示する。
エージェントの定義に関する概念的断片化」という3つの相互強化的緊張について分析した。
我々はエージェントAIが、技術的願望、商業的インセンティブ、臨床的制約が交わる、争われた意味作りの場として機能すると主張している。
論文 参考訳（メタデータ） (2026-02-06T02:53:40Z) - Agentic Uncertainty Quantification [76.94013626702183]
本稿では,言語化された不確実性をアクティブな双方向制御信号に変換する統合されたデュアルプロセスエージェントUQ(AUQ)フレームワークを提案する。
システム1(Uncertainty-Aware Memory, UAM)とシステム2(Uncertainty-Aware Reflection, UAR)は、これらの説明を合理的な手段として利用し、必要な時にのみターゲットの推論時間解決をトリガーする。
論文 参考訳（メタデータ） (2026-01-22T07:16:26Z) - Normative active inference: A numerical proof of principle for a computational and economic legal analytic approach to AI governance [0.6267988254367711]
本稿では,AIエージェントの行動に法的規範がどう影響するかを計算学的に考察する。
我々は,エージェントに意図的な制御システムを与える設計による規制によって,合法的で規範に敏感なAI行動が達成可能であることを提案する。
我々は、文脈依存の嗜好が自律エージェントの安全メカニズムとしてどのように機能するかを議論することで結論付けた。
論文 参考訳（メタデータ） (2025-11-24T17:30:51Z) - Navigating the EU AI Act: Foreseeable Challenges in Qualifying Deep Learning-Based Automated Inspections of Class III Medical Devices [2.467339701756281]
本稿では,DLベースの自動検査の資格取得において,製造業者が直面する可能性のある課題について,高い技術評価を行う。
リスク管理の原則、データセットガバナンス、モデル検証、説明可能性要件、デプロイ後の監視義務のばらつきを調べます。
論文 参考訳（メタデータ） (2025-08-27T09:17:03Z) - Uncertainty-Driven Expert Control: Enhancing the Reliability of Medical Vision-Language Models [52.2001050216955]
既存の方法は、モデル構造を調整したり、高品質なデータで微調整したり、好みの微調整によって、医療ビジョン言語モデル(MedVLM)の性能を向上させることを目的としている。
我々は,MedVLMと臨床専門知識の連携を図るために,Expert-Controlled-Free Guidance (Expert-CFG) という,ループ内のエキスパート・イン・ザ・ループフレームワークを提案する。
論文 参考訳（メタデータ） (2025-07-12T09:03:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。