論文の概要: Agentic AI Enhances Physician Trust in Clinical Decision Making

• arxiv url: http://arxiv.org/abs/2606.30658v1
• Date: Tue, 16 Jun 2026 14:31:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-05 17:01:29.61088
• Title: Agentic AI Enhances Physician Trust in Clinical Decision Making
• Title（参考訳）: エージェントAIは、臨床診断における医師の信頼を高める
• Abstract要約: 従来のモデルより優れていることが証明されているが、エージェントAIに対する医師の信頼はほとんど探索されていない。 治療計画のタスクでは、医師が最もエージェント的推論を信頼し、89.57%のケースでそれを好む。 しかし、不正なエージェント出力に対する測定可能で過度な信頼は現在も残っている。
• 参考スコア（独自算出の注目度）: 28.8804483098497
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Medical AI has shifted from reasoning to agentic AI, a new paradigm that autonomously invokes external tools during reasoning, rendering intermediate reasoning steps and tool outputs transparent to users. Although proven to outperform previous models, physician trust in agentic AI remains largely unexplored. To address this, three physicians evaluated 315 multimodal clinical cases quantifying both process-oriented cognitive trust and outcome-oriented behavioral reliance. Comparing agentic AI against non-agentic baselines, physicians exhibited significantly higher cognitive and behavioral trust for the agentic model (P < 0.001). Specifically, on treatment planning tasks, physicians trusted the agentic reasoning most, preferring it in 89.57% of cases. Furthermore, process-oriented cognitive trust is significantly associated with outcome-oriented behavioral reliance (P < 0.001). However, measurable over-reliance on incorrect agentic outputs still exists, highlighting the inherent limitations of decision-logic transparency alone and underscoring the continuous need for rigorous clinician oversight.
• Abstract（参考訳）: 推論中に外部ツールを自律的に起動する新たなパラダイムであるエージェントAI、中間推論ステップのレンダリング、およびツール出力がユーザに対して透過的なものになる。 従来のモデルより優れていることが証明されているが、エージェントAIに対する医師の信頼はほとんど探索されていない。 これを解決するために、3人の医師がプロセス指向の認知信頼と結果指向の行動依存の両方を定量化する315のマルチモーダル臨床症例を評価した。 エージェントAIを非エージェントベースラインと比較すると,エージェントモデルに対する認知的・行動的信頼度は有意に高かった(P < 0.001)。 具体的には、治療計画タスクにおいて、医師はエージェント的推論を最も信頼し、89.57%のケースでそれを好む。 さらに、プロセス指向認知信頼は、結果指向の行動依存(P < 0.001)と著しく関連している。 しかし、誤ったエージェントアウトプットに対する測定可能な過度な信頼は現存しており、決定論理的透明性の固有の限界を浮き彫りにして、厳密な臨床医の監視の継続的な必要性を浮き彫りにしている。

関連論文リスト

• The Clinician's Veto: Navigating Trust, Liability, and Uncertainty in Autonomous AI Prescribing [13.18232326064542]
  アメリカの法案H.R.238とユタ州の処方薬更新パイロットはどちらも、エージェント能力で医薬品を処方するAIを認可している。 我々は、安全な自律的な処方のための最小限のアーキテクチャ要件として、これらを位置づける規制と技術的議論を示す。
  論文  参考訳（メタデータ） (2026-06-23T19:28:52Z)
• Towards a Virtual Neuroscientist: Autonomous Neuroimaging Analysis via Multi-Agent Collaboration [53.772014300855375]
  我々は,自律型エンドツーエンド神経画像解析のためのマルチエージェントシステムであるNIAgentを紹介する。 従来のフラットなツール呼び出しエージェントとは異なり、NIAgentはコード中心の実行パラダイムを採用している。 本稿では,コホートレベルの検定とエージェント視覚検査を組み合わせた,自律的品質管理のための階層的検証フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-05-10T06:30:19Z)
• Cerebra: A Multidisciplinary AI Board for Multimodal Dementia Characterization and Risk Assessment [56.62016795093786]
  CerebraはインタラクティブなマルチエージェントAIチームで、ERH、臨床ノート、医療画像分析のための特殊エージェントをコーディネートする。 構造化された表現を操作することで、プライバシ保護デプロイメントをサポートし、モダリティが不完全であれば、堅牢である。 Cerebraは、有識者のパフォーマンスを著しく改善し、前向き認知症リスク推定において精度を17.5ポイント向上させた。
  論文  参考訳（メタデータ） (2026-03-23T05:46:45Z)
• How to Evaluate Medical AI [4.23552814358972]
  アルゴリズム診断(RPAD, RRAD)の相対精度とリコールについて紹介する。 RPADとRADは、AIの出力を単一の参照ではなく複数の専門家の意見と比較する。 大規模な研究によると、DeepSeek-V3のようなトップパフォーマンスモデルは、専門家のコンセンサスに匹敵する一貫性を達成している。
  論文  参考訳（メタデータ） (2025-09-15T14:01:22Z)
• Silence is Not Consensus: Disrupting Agreement Bias in Multi-Agent LLMs via Catfish Agent for Clinical Decision Making [80.94208848596215]
  提案する概念は「Catfish Agent」である。これは、構造的不満を注入し、無声な合意に反するように設計された役割特化LDMである。 組織心理学において「ナマズ・エフェクト」にインスパイアされたカマズ・エージェントは、より深い推論を促進するために、新たなコンセンサスに挑戦するように設計されている。
  論文  参考訳（メタデータ） (2025-05-27T17:59:50Z)
• Automated Real-time Assessment of Intracranial Hemorrhage Detection AI Using an Ensembled Monitoring Model (EMM) [1.8767322781894276]
  本稿では,複数の専門家レビューを用いた臨床コンセンサスプラクティスに触発されたEMM(Ensembled Monitoring Model)を紹介する。 EMMは内部AIコンポーネントや中間出力へのアクセスを必要とせずに独立して動作する。 EMMがAI生成予測の信頼度をうまく分類し、異なる行動を提案することを実証する。
  論文  参考訳（メタデータ） (2025-05-16T22:50:42Z)
• Do LLMs trust AI regulation? Emerging behaviour of game-theoretic LLM agents [61.132523071109354]
  本稿では、異なる規制シナリオ下での戦略選択をモデル化する、AI開発者、規制当局、ユーザ間の相互作用について検討する。 我々の研究は、純粋なゲーム理論エージェントよりも「悲観的」な姿勢を採用する傾向にある戦略的AIエージェントの出現する振る舞いを特定する。
  論文  参考訳（メタデータ） (2025-04-11T15:41:21Z)
• Quantifying the Reasoning Abilities of LLMs on Real-world Clinical Cases [48.87360916431396]
  MedR-Benchは1,453例の構造化患者のベンチマークデータセットで、推論基準を付した注釈付きである。 本稿では,3つの批判的診察勧告,診断決定,治療計画を含む枠組みを提案し,患者のケアジャーニー全体をシミュレートする。 このベンチマークを用いて、DeepSeek-R1、OpenAI-o3-mini、Gemini-2.0-Flash Thinkingなど、最先端の5つのLCMを評価した。
  論文  参考訳（メタデータ） (2025-03-06T18:35:39Z)
• Human Decision-making is Susceptible to AI-driven Manipulation [87.24007555151452]
  AIシステムは、ユーザの認知バイアスと感情的な脆弱性を利用して、有害な結果に向けてそれらを操縦する。 本研究では、経済的・感情的な意思決定の文脈におけるこのような操作に対する人間の感受性について検討した。
  論文  参考訳（メタデータ） (2025-02-11T15:56:22Z)
• Towards Next-Generation Medical Agent: How o1 is Reshaping Decision-Making in Medical Scenarios [46.729092855387165]
  本稿では,医療用AIエージェントのバックボーンLSMの選択について検討する。 我々の研究結果は、o1の診断精度と一貫性を高める能力を示し、よりスマートでより応答性の高いAIツールへの道を開いた。
  論文  参考訳（メタデータ） (2024-11-16T18:19:53Z)
• Explainable AI Enhances Glaucoma Referrals, Yet the Human-AI Team Still Falls Short of the AI Alone [6.740852152639975]
  各種のAI説明は、提供者が即時または緊急の専門紹介を必要とする患者を区別するのにどのように役立つかを検討する。 我々は、高リスク患者を特定するためのプロキシとして、通常のアイケアデータから緑内障手術のニーズを予測するための説明可能なAIアルゴリズムを構築した。 本研究は,本質的・ポストホックな説明性を取り入れ,ヒト-AIチームのパフォーマンスを評価するために,眼科医とオンライン研究を行った。
  論文  参考訳（メタデータ） (2024-05-24T03:01:20Z)
• The Limits of Perception: Analyzing Inconsistencies in Saliency Maps in XAI [0.0]
  説明可能な人工知能(XAI)は、AIの意思決定プロセスの解明に不可欠である。 ブラックボックス」として機能し、その理由が曖昧でアクセスできないため、誤診のリスクが高まる。 この透明性へのシフトは、単に有益であるだけでなく、医療におけるAI統合の責任を負うための重要なステップでもある。
  論文  参考訳（メタデータ） (2024-03-23T02:15:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。