論文の概要: Large language models exhibit unreliable updating of clinical judgment as patient evidence evolves

• arxiv url: http://arxiv.org/abs/2610.02684v1
• Date: Fri, 02 Oct 2026 02:05:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 00:14:30.162481
• Title: Large language models exhibit unreliable updating of clinical judgment as patient evidence evolves
• Title（参考訳）: 大規模言語モデルでは、患者の証拠が進化するにつれて臨床診断の信頼性が低下する
• Abstract要約: 大きな言語モデル (LLMs) は、臨床推論のためにますます研究されている。 しかし、患者の証拠が進化するにつれて判断を適切に修正するかどうかは不明だ。 電子カルテから一致した集中治療トラジェクトリを用いた縦断的信念更新の評価を行った。
• 参考スコア（独自算出の注目度）: 11.15541032772277
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models (LLMs) are increasingly explored for clinical reasoning, but whether they appropriately revise judgments as patient evidence evolves remains unclear. We evaluated longitudinal belief updating using matched intensive-care trajectories from electronic health records. Across diverse LLMs, conditioning on a preceding judgment more often increased than reduced prediction error when estimates changed, replicated for a second endpoint. Controlled interventions revealed two failure modes. First, with preceding assessment fixed, models responded more strongly to worsening than matched improving respiratory evidence; this asymmetry persisted after headroom normalization at moderate and strong evidence levels. Second, with current evidence fixed, increasing prior risk from 10% to 90% shifted estimates by 26.2 percentage points, demonstrating causal influence of prior model beliefs. Prompting did not restore reliable updating. Evidence-Validated Longitudinal Update (EVLU) identified fewer, more reliable revisions, revealing a reliability-coverage trade-off. These findings establish longitudinal belief updating as a distinct dimension of LLM reliability.
• Abstract（参考訳）: 大きな言語モデル (LLMs) は、臨床推論のために研究されているが、患者の証拠が進化するにつれて、適切に判断を改めるかどうかは不明のままである。 電子カルテから一致した集中治療トラジェクトリを用いた縦断的信念更新の評価を行った。 様々なLSMに対して,推定値が変更された場合の予測誤差の低減よりも,事前判定の条件付けが頻繁に増加し,第2の終端に再現された。 制御された介入により2つの障害モードが明らかになった。 第一に、事前評価が固定されたモデルでは、呼吸的エビデンスの改善よりも悪化に対して強く反応し、この非対称性は、中等度で強いエビデンスレベルにおけるヘッドルームの正常化後に持続した。 第二に、現在の証拠が固定されたことにより、事前のリスクが10%から90%に増加し、26.2ポイントの見積もりがシフトし、以前のモデル信念の因果的影響が示された。 プロンプティングは信頼性の高い更新を回復しなかった。 Evidence-Validated Longitudinal Update (EVLU)は、信頼性の高いリビジョンを減らし、信頼性とカバレッジのトレードオフを明らかにした。 これらの結果から,LLMの信頼性の異なる次元として,縦断的信念の更新が確立された。

関連論文リスト

• When Confidence Fails: Overconfidence in LLMs under Uncertainty and Missing Clinical Information [14.659028787864996]
  大規模言語モデル (LLM) は, 医療質問応答や臨床推論タスクにおいて, 高い性能を達成している。 臨床情報の不確実性を考慮したLCMの行動解析を行った。 正解が得られない場合に、モデル間で大きな変動を観測する。
  論文  参考訳（メタデータ） (2026-08-10T03:28:46Z)
• Towards Trustworthy Depression Estimation via Disentangled Evidential Learning [50.22167852149165]
  EviDepはうつ病の重症度を共同で定量化する明らかな学習フレームワークである。 EviDepは、堅牢な証拠合成を保証するために厳密な情報整合性を強制する。 最先端の予測精度と優れた不確実性校正を実現し、信頼できる臨床スクリーニングのための堅牢なフェールセーフメカニズムを提供する。
  論文  参考訳（メタデータ） (2026-04-17T13:27:11Z)
• Think Through Uncertainty: Improving Long-Form Generation Factuality via Reasoning Calibration [7.51755942515969]
  大型言語モデル(LLM)は、しばしば長文生成において幻覚を引き起こす。 既存のアプローチは主にポストホックリビジョンや強化学習を通じて事実性を改善する。 本稿では,LCMに請求レベルでの不確実性について推論するように教えることにより,長期的事実性を改善するフレームワークであるCUREを提案する。
  論文  参考訳（メタデータ） (2026-04-13T20:38:36Z)
• EviCare: Enhancing Diagnosis Prediction with Deep Model-Guided Evidence for In-Context Reasoning [62.61394722212386]
  EviCareは、大規模言語モデルにディープモデルガイダンスを統合する、コンテキスト内推論フレームワークである。 LLMのみのベースラインと深層モデルのみのベースラインを2つの実世界のEHRベンチマークで連続的に上回っている。
  論文  参考訳（メタデータ） (2026-04-12T04:35:14Z)
• Benchmarking Multi-turn Medical Diagnosis: Hold, Lure, and Self-Correction [72.89352076103889]
  大規模言語モデル (LLM) は, 臨床情報がすべて一ターンで提供される場合に, 高い精度で診断を行う。 1,035例からなる高忠実多ターン診断ベンチマークであるMINTを導入する。 診断決定に大きな影響を及ぼす3つの永続的な行動パターンを明らかにする。
  論文  参考訳（メタデータ） (2026-04-06T00:23:10Z)
• Calibrated Bayesian Deep Learning for Explainable Decision Support Systems Based on Medical Imaging [6.826979426009301]
  モデルが予測精度と相関する方法で不確実性を定量化し、臨床医がさらなるレビューのために信頼できないアウトプットを特定できることが不可欠である。 本稿では,ベイズ深層学習に基づく一般化可能な確率的最適化フレームワークを提案する。 特に、信頼性・不確実性境界損失(CUB-Loss)が新しく導入され、高い精度の誤差と低い精度の正確な予測に罰則が課せられる。 提案手法は, 肺炎の自動スクリーニング, 糖尿病性網膜症検出, 皮膚病変の同定という, 3つの異なる医用画像処理課題に対して検証された。
  論文  参考訳（メタデータ） (2026-02-12T14:03:41Z)
• Towards Reliable Medical LLMs: Benchmarking and Enhancing Confidence Estimation of Large Language Models in Medical Consultation [97.36081721024728]
  本稿では,現実的な医療相談におけるマルチターンインタラクションの信頼性を評価するための最初のベンチマークを提案する。 本ベンチマークでは,3種類の医療データを統合し,診断を行う。 本稿では,エビデンスを基盤とした言語自己評価フレームワークであるMedConfを紹介する。
  論文  参考訳（メタデータ） (2026-01-22T04:51:39Z)
• Enhancing Safety in Diabetic Retinopathy Detection: Uncertainty-Aware Deep Learning Models with Rejection Capabilities [0.0]
  糖尿病網膜症(DR)は視覚障害の主要な原因である。 深層学習モデルは網膜画像からDRを特定することに成功している。 本稿では,不確実性を考慮したディープラーニングモデルにおいて,低信頼度予測を拒否する拒否機構を含む代替手法について検討する。
  論文  参考訳（メタデータ） (2025-09-26T01:47:43Z)
• SepsisLab: Early Sepsis Prediction with Uncertainty Quantification and Active Sensing [67.8991481023825]
  セプシスは米国での院内死亡の主な原因である。 既存の予測モデルは通常、情報不足の少ない高品質なデータで訓練される。 限られた観察により信頼性の低い高リスク患者に対して,ロバストな能動センシングアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-07-24T04:47:36Z)
• UNITE: Uncertainty-based Health Risk Prediction Leveraging Multi-sourced Data [81.00385374948125]
  我々はUNcertaInTyベースのhEalth Risk Prediction(UNITE)モデルを提案する。 UNITEは、複数ソースの健康データを活用した正確な疾患リスク予測と不確実性推定を提供する。 非アルコール性脂肪肝疾患(NASH)とアルツハイマー病(AD)の実態予測タスクにおけるUNITEの評価を行った。 UNITEはAD検出のF1スコアで最大0.841点、NASH検出のPR-AUCで最大0.609点を達成し、最高のベースラインで最大19%の高パフォーマンスを達成している。
  論文  参考訳（メタデータ） (2020-10-22T02:28:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。