論文の概要: Large language models improve physician accuracy but lead to false reliance

• arxiv url: http://arxiv.org/abs/2608.00817v1
• Date: Sat, 01 Aug 2026 18:48:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-04 15:07:24.946578
• Title: Large language models improve physician accuracy but lead to false reliance
• Title（参考訳）: 大規模言語モデルでは医師の精度は向上するが、偽りの信頼につながる
• Abstract要約: Retrieval-augmented large language model (LLMs)は、ソースリンク臨床サポートを約束する。 CORAは、ソースリンクによる援助が医師の意思決定にどのように影響するかを調査した。 ソースリンク型LCMアシストは、グラウンドリングに依存した安全リスクを導入しながら、医師の精度を向上させることができる。
• 参考スコア（独自算出の注目度）: 27.854576188002074
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: Retrieval-augmented large language models (LLMs) promise source-linked clinical support, but their value depends on whether displayed evidence guides rather than distorts physician reliance. We developed CORA, an agentic retrieval-augmented LLM, to investigate how source-linked assistance affects physician decision-making. CORA maintained benchmark performance and achieved larger gains on cases published after the models' training-data cutoffs. In a study of 46 physicians, accuracy increased from 70.8% unaided to 82.6% with CORA. Supporting citations predicted correct answers (87.7% vs 65.5%), but citations created an important asymmetry: perceived support increased adoption of correct advice from 34% to 76.9% but when an incorrect LLM answer appeared citation-supported, physician resistance to it fell from 92% to 34.8%. These findings show that source-linked LLM assistance can improve physician accuracy while introducing a grounding-dependent safety risk.
• Abstract（参考訳）: Retrieval-augmented large language model (LLMs) は、ソースリンク型臨床サポートを約束するが、その価値は、医師の信頼を歪ませるよりも、エビデンスガイドを提示するかどうかに依存する。 情報源リンク支援が医師の意思決定にどのような影響を及ぼすかを調べるために,エージェント検索拡張LDMであるCORAを開発した。 CORAはベンチマーク性能を維持し、モデルのトレーニングデータカットオフ後に発行されたケースに対して大きな利益を得た。 46人の医師を対象にした研究では、精度は70.8%から82.6%に向上した。 正しい回答は87.7%対65.5%と予測されたが、引用は重要な非対称性を生んだ: 正しいアドバイスの採用が34%から76.9%に増加したが、誤ったLCMの回答が引用支持に現れると、医師の抵抗は92%から34.8%に低下した。 以上の結果より, ソースリンク型LCMアシストは, グラウンドリング依存型安全リスクを導入しながら, 医師の精度を向上させることが示唆された。

関連論文リスト

• Measuring Epistemic Resilience of LLMs Under Misleading Medical Context [47.20527783144983]
  大規模言語モデル(LLMs)は、医療ライセンス試験のエキスパートレベルスコアに到達した。 誤解を招く文脈が LLM が元来正しく答える質問に注入されると、彼らは正しい答えを放棄する。 本研究は, 逆行性てんかんのレジリエンス下での正しい判断を維持できる能力と, 測定にMedMisBenchを導入している。
  論文  参考訳（メタデータ） (2026-06-10T16:27:26Z)
• DART: Mitigating Harm Drift in Difference-Aware LLMs via Distill-Audit-Repair Training [18.22030439716779]
  安全のために調整された大きな言語モデル(LLM)は、しばしば人口統計の違いを認めない。 このアイデンティティ・ブラインドネスは、誤った応答、不必要な拒絶、あるいは一般的な"equal-treatment"デフォルトをもたらす。 DART(Distill-Audit-Repair Training)を導入する。
  論文  参考訳（メタデータ） (2026-04-18T05:28:53Z)
• Benchmarking Multi-turn Medical Diagnosis: Hold, Lure, and Self-Correction [72.89352076103889]
  大規模言語モデル (LLM) は, 臨床情報がすべて一ターンで提供される場合に, 高い精度で診断を行う。 1,035例からなる高忠実多ターン診断ベンチマークであるMINTを導入する。 診断決定に大きな影響を及ぼす3つの永続的な行動パターンを明らかにする。
  論文  参考訳（メタデータ） (2026-04-06T00:23:10Z)
• A Decade-Scale Benchmark Evaluating LLMs' Clinical Practice Guidelines Detection and Adherence in Multi-turn Conversations [60.2076951536797]
  大規模言語モデル(LLM)は、医療シナリオにますます多くデプロイされている。 LLMが会話中に臨床ガイドラインを特定・遵守できるのかは不明確である。 CPGBenchは、LSMの臨床ガイドラインの検出と付着能力をベンチマークする自動フレームワークである。
  論文  参考訳（メタデータ） (2026-03-26T09:00:55Z)
• Deliberative multi-agent large language models improve clinical reasoning in ophthalmology [6.0314253430783]
  大型言語モデル(LLMs)は眼科臨床推論の可能性を示すが、個々のモデルでは害をもたらすリスクがある。 マルチエージェント LLM 審議会が診断性能を改善し,害を軽減するかを検討した。 評議会は3つの階層のそれぞれにまたがって、プールされた個々のモデルを一貫して上回った。
  論文  参考訳（メタデータ） (2026-03-22T23:36:48Z)
• EchoBench: Benchmarking Sycophancy in Medical Large Vision-Language Models [82.43729208063468]
  医療用LVLM(Large Vision-Language Models)の最近のベンチマークでは、信頼性と安全性を見越して、リーダボードの精度を強調している。 ユーザが提供した情報を非批判的に反響させる傾向のモデルについて検討する。 医療用LVLMの梅毒を系統的に評価するベンチマークであるEchoBenchを紹介する。
  論文  参考訳（メタデータ） (2025-09-24T14:09:55Z)
• Medical Hallucinations in Foundation Models and Their Impact on Healthcare [71.15392179084428]
  基礎モデルの幻覚は自己回帰訓練の目的から生じる。 トップパフォーマンスモデルは、チェーン・オブ・シークレット・プロンプトで強化された場合、97%の精度を達成した。
  論文  参考訳（メタデータ） (2025-02-26T02:30:44Z)
• Enhancing Large Language Models with Domain-specific Retrieval Augment Generation: A Case Study on Long-form Consumer Health Question Answering in Ophthalmology [34.82874325860935]
  医学における大規模言語モデル(LLM)は、幻覚的証拠に基づく証拠を欠いた応答を生成する可能性がある。 我々は,7万件の眼科用文書を用いたRAGパイプラインを開発し,推測時間にLCMを増大させるために関連文書を検索した。 医療従事者10名を対象に,RAGの有無を問う質問100件において, LLMの500件以上の基準を含む回答を評価した。
  論文  参考訳（メタデータ） (2024-09-20T21:06:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。