論文の概要: Hallucination by proxy in LLM-assisted differential diagnosis

• arxiv url: http://arxiv.org/abs/2608.24908v1
• Date: Wed, 22 Jul 2026 08:26:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.338327
• Title: Hallucination by proxy in LLM-assisted differential diagnosis
• Title（参考訳）: LLMによる鑑別診断におけるプロキシによる幻覚
• Abstract要約: 医師が既成のLSM提案を受け入れやすいか、経験によってその感受性が変わるかは不明である。 われわれはLSMをベースとした診断補助薬に毒を投与し,それ以外は正常な鑑別診断において,架空の疾患 (neurocadmiumatosis) を示唆した。 以上の結果から,放射線科医は特に早期に幻覚を発症する可能性が示唆された。
• 参考スコア（独自算出の注目度）: 0.5099953098986463
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Current evidence suggests that LLM assistance could augment the diagnostic accuracy of clinicians. However, these systems are black boxes, susceptible to hallucinations, and project a potentially misleading level of confidence. It is currently unknown whether physicians are susceptible to accepting fabricated LLM suggestions, and whether this susceptibility varies with experience. We poisoned the system prompt of an LLM-based diagnostic assistant, forcing it to suggest a fictitious disease (neurocadmiumatosis) within an otherwise legitimate differential diagnosis. Across two independent phases, 18 of 41 participants (44%) incorporated neurocadmiumatosis into their final differential following LLM interaction: 18 of 26 participants with 6 months or less of neuroradiology training (69%) and 0 of 15 participants with >6 months of neuroradiology training (0%). Our results indicate that radiologists, particularly early in their training, are susceptible to LLM hallucinations. This "hallucination by proxy" phenomenon was exclusive to physicians with limited subspecialty experience, underscoring the need for structured training in critical appraisal of AI-generated content.
• Abstract（参考訳）: 現在の証拠は、LSM援助が臨床医の診断精度を高める可能性があることを示唆している。 しかし、これらのシステムはブラックボックスであり、幻覚に影響を受けやすい。 現在、医師が既成のLSM提案を受け入れやすいか、経験によってその感受性が変わるかは分かっていない。 われわれはLSMをベースとした診断補助装置のシステム・プロンプトに毒を塗布し,それ以外は正常な鑑別診断で架空の疾患 (neurocadmiumatosis) を示唆した。 2つの独立した段階において,41名中18名(44%)がLLM相互作用後の最終分化に神経カドミウムアトーシスを取り入れ,26名中18名(6ヶ月以下)が神経放射線学トレーニング(69%),0名(6ヶ月未満)が神経放射線学トレーニング(0%)であった。 以上の結果から, 放射線科医は, 特に早期の訓練において, LLM幻覚の影響を受けやすいことが示唆された。 この「プロキシによる幻覚」現象は、AI生成コンテンツの重要な評価において構造化されたトレーニングの必要性を強調し、限られたサブ種族経験を持つ医師に排他的であった。

関連論文リスト

• Learning to Fuse LLMs with Ontology Rankers for Rare-Disease Diagnosis [14.101636730819175]
  各候補は一致した患者表現型に追跡できるため,腫瘍マーカーは希少な診断に有用である。 大きな言語モデル(LLM)は、同じ患者の記述から差分診断を生成することができるが、それらの予測は同様に明確な証拠の痕跡を欠いている。 行動に基づく融合モデルでは,2つのランク付けされたリスト,それらの合意,および各候補の背後にあるオントロジーサポートを検証し,各システムにどの程度依存するかを個別のケースで学習する。
  論文  参考訳（メタデータ） (2026-09-02T11:44:21Z)
• Can Multimodal Large Language Models Understand Pathologic Movements? A Pilot Study on Seizure Semiology [6.150572757901948]
  このパイロットスタディは、発作ビデオにおける病理的動きの自動認識におけるMLLMの能力を評価する。 当科における最新のMLLMのゼロショット性能を,90例の臨床てんかん記録の20例に比較検討した。
  論文  参考訳（メタデータ） (2026-05-05T04:14:38Z)
• Enabling Doctor-Centric Medical AI with LLMs through Workflow-Aligned Tasks and Benchmarks [72.89088985703748]
  大きな言語モデル(LLM)の台頭は、臨床ガイダンスを提供することで医療に変化をもたらしたが、患者への直接の展開は安全性のリスクをもたらす。 我々は,患者と直接対話するのではなく,経験豊富な医師と協力する臨床助手としてLLMを再配置することを提案する。 我々は、22の臨床的タスクと27の専門分野にわたる92,000のQ&Aインスタンスからなる大規模な中国の医療データセットであるDoctorFLANを構築した。
  論文  参考訳（メタデータ） (2025-10-13T06:18:27Z)
• Simulating Viva Voce Examinations to Evaluate Clinical Reasoning in Large Language Models [51.91760712805404]
  大規模言語モデル(LLM)におけるシーケンシャルな臨床推論を評価するためのベンチマークであるVivaBenchを紹介する。 本データセットは,医療訓練における(口頭)検査をシミュレートする対話的シナリオとして構成された1762名の医師による臨床ヴィグネットから構成される。 本分析では,臨床における認知的誤りを反映するいくつかの障害モードを同定した。
  論文  参考訳（メタデータ） (2025-10-11T16:24:35Z)
• An Agentic System for Rare Disease Diagnosis with Traceable Reasoning [69.46279475491164]
  大型言語モデル(LLM)を用いた最初のまれな疾患診断エージェントシステムであるDeepRareを紹介する。 DeepRareは、まれな疾患の診断仮説を分類し、それぞれに透明な推論の連鎖が伴う。 このシステムは2,919の疾患に対して異常な診断性能を示し、1013の疾患に対して100%の精度を達成している。
  論文  参考訳（メタデータ） (2025-06-25T13:42:26Z)
• MAGDA: Multi-agent guideline-driven diagnostic assistance [43.15066219293877]
  救急部門、地方病院、または未開発地域の診療所では、臨床医は訓練された放射線技師による高速な画像分析を欠いていることが多い。 本研究では,ゼロショットガイドライン駆動意思決定支援のための新しいアプローチを提案する。 我々は、患者診断に到達するために協調する、対照的な視覚言語モデルで強化された複数のLLMエージェントのシステムをモデル化する。
  論文  参考訳（メタデータ） (2024-09-10T09:10:30Z)
• LLM Internal States Reveal Hallucination Risk Faced With a Query [62.29558761326031]
  人間は、クエリに直面したとき、私たちが知らないことを認識できる自己認識プロセスを持っています。 本稿では,大規模言語モデルが応答生成に先立って,自身の幻覚リスクを推定できるかどうかを検討する。 確率推定器により, LLM自己評価を利用して, 平均幻覚推定精度84.32%を達成する。
  論文  参考訳（メタデータ） (2024-07-03T17:08:52Z)
• RareBench: Can LLMs Serve as Rare Diseases Specialists? [11.828142771893443]
  Generalist Large Language Models (LLMs) は、医学的診断を含む様々な領域において有望であることを示している。 世界中で約3億人に影響を及ぼす希少な疾患は、しばしば不満足な臨床診断率を持つ。 RareBenchは、希少疾患の領域における4つの重要な次元におけるLSMの能力を評価するために設計された先駆的なベンチマークである。 GPT-4の診断能力と専門医との総合的な比較検討を行った。
  論文  参考訳（メタデータ） (2024-02-09T11:34:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。