論文の概要: The Patient Is Always Right? Evaluating Sycophancy in Medical Diagnosis with Graded Patient Beliefs

• arxiv url: http://arxiv.org/abs/2610.34013v1
• Date: Sun, 25 Oct 2026 02:54:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.517291
• Title: The Patient Is Always Right? Evaluating Sycophancy in Medical Diagnosis with Graded Patient Beliefs
• Title（参考訳）: 患者は常に正しいか? : 臨床診断における中等度評価
• Abstract要約: 9つのAIモデルが、患者が特定の医学的状態を持っているという信念を提示すると、どのように診断決定を変えるかを評価する。 医療診断におけるシコファンのバイアスは、特に多くの人々がAIを健康支援に使っているため、安全性に影響を及ぼす。
• 参考スコア（独自算出の注目度）: 23.593544479052955
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: More people are seeking out general-purpose AI models for medical advice, including diagnosis. Yet, AI models are susceptible to sycophancy, like validating users' beliefs even when they are untrue, which could lead to false positive diagnoses. Here, we evaluate how nine AI models change their diagnostic decision when a patient presents a belief that they have a specific (but incorrect) medical condition. We vary how close the user belief is to the clinical evidence presented. Models sycophantically adopt the patient's belief on average 23.2\% of the time---sometimes even when the patient proposes a fictional, made-up condition. We also varied different personas, including a Rare Disease Claimer that got models to accept their belief 43.0\% of the time. Additional analyses find that medical fine-tuning and model scale makes models less susceptible to changing their diagnoses. Sycophantic bias in medical diagnosis raises implications for safety, especially as more people are using AI for health support.
• Abstract（参考訳）: 診断を含む医療アドバイスのための汎用AIモデルを探している人が増えている。 しかし、AIモデルは、偽陽性の診断につながる可能性のある事実であっても、ユーザの信念を検証するなど、梅毒による影響を受けやすい。 ここでは,9つのAIモデルが,患者が特定の(しかし正しくない)医療状態を持っているという信念を提示すると,その診断決定がどう変化するかを評価する。 私たちは、提示された臨床証拠に対して、ユーザの信念がどれほど近いかによって異なります。 モデルは、患者が架空のメイクアップ状態を提案する場合であっても、平均23.2\%の時間に対する患者の信念を空想的に採用する。 また、Rare Disease Claimerなど、さまざまなペルソナも用意しています。 さらなる分析により、医学的な微調整とモデルスケールにより、モデルは診断の変更の影響を受けにくいことが判明した。 医療診断におけるシコファンのバイアスは、特に多くの人々がAIを健康支援に使っているため、安全性に影響を及ぼす。

関連論文リスト

• BenchX: Benchmarking AI Models for Cancer Detection and Localization with Demographic and Protocol Biases [59.19934491064188]
  人工知能(AI)は医療画像において顕著な成功を収めた。 これらのモデルは、実世界の臨床環境において矛盾なく機能することが多い。 我々は,12種類の腫瘍検出AIモデルを体系的に評価する85,355個のCTスキャンのベンチマークを開発した。
  論文  参考訳（メタデータ） (2026-06-23T17:58:59Z)
• Medical Model Synthesis Architectures: A Case Study [72.46211022258122]
  現在のAIシステムは、不確実性の下で調整された推論に苦労している。 我々は,不確実性の下で,現実的に有用だが公式に透過的な臨床予測を行うことができるAIシステムのためのフレームワークを提案する。 このフレームワークの最初の概念実証は、どのようにして差分診断に利用できるかを示す。
  論文  参考訳（メタデータ） (2026-05-10T19:30:16Z)
• How to Evaluate Medical AI [4.23552814358972]
  アルゴリズム診断(RPAD, RRAD)の相対精度とリコールについて紹介する。 RPADとRADは、AIの出力を単一の参照ではなく複数の専門家の意見と比較する。 大規模な研究によると、DeepSeek-V3のようなトップパフォーマンスモデルは、専門家のコンセンサスに匹敵する一貫性を達成している。
  論文  参考訳（メタデータ） (2025-09-15T14:01:22Z)
• Sequential Diagnosis with Language Models [21.22416732642907]
  本稿では,304症例を段階的に診断するシークエンシャル診断ベンチマークを紹介する。 成績は、診断精度だけでなく、医師の診察や検査の費用によって評価される。 また,医師のパネルを模擬したモデル診断オーケストレータであるMAI診断オーケストレータ(MAI-DxO)についても紹介する。
  論文  参考訳（メタデータ） (2025-06-27T17:27:26Z)
• Uncertainty-aware abstention in medical diagnosis based on medical texts [87.88110503208016]
  本研究は,AI支援医療診断における信頼性の重要課題について論じる。 本研究は,診断に自信がなければ,診断システムによる意思決定の回避を可能にする選択予測手法に焦点をあてる。 我々は、選択予測タスクにおける信頼性を高めるための新しい最先端手法であるHUQ-2を紹介する。
  論文  参考訳（メタデータ） (2025-02-25T10:15:21Z)
• CARES: A Comprehensive Benchmark of Trustworthiness in Medical Vision Language Models [92.04812189642418]
  我々はCARESを紹介し,医療領域全体での医療LVLMの信頼性を評価することを目的とする。 我々は,Med-LVLMの信頼性を,信頼性,公正性,安全性,プライバシ,堅牢性,5次元にわたって評価する。
  論文  参考訳（メタデータ） (2024-06-10T04:07:09Z)
• Language models are susceptible to incorrect patient self-diagnosis in medical applications [0.0]
  患者からの自己診断報告を含むように修正された米国の医療委員会試験からの複数項目の質問を含む様々なLSMを提示する。 以上の結果から, 誤った偏見検証情報を提案すると, LLMの診断精度は劇的に低下することが明らかとなった。
  論文  参考訳（メタデータ） (2023-09-17T19:56:39Z)
• Diagnosis Uncertain Models For Medical Risk Prediction [80.07192791931533]
  本研究は, 患者の診断にはアクセスできない, バイタルサイン, 検査値, 既往歴にアクセス可能な患者リスクモデルについて考察する。 このようなすべての原因のリスクモデルが、診断全体にわたって良い一般化を持つが、予測可能な障害モードを持つことが示される。 患者診断の不確実性から生じるリスク予測の不確実性を明示的にモデル化し,この問題に対する対策を提案する。
  論文  参考訳（メタデータ） (2023-06-29T23:36:04Z)
• What Do You See in this Patient? Behavioral Testing of Clinical NLP Models [69.09570726777817]
  本稿では,入力の変化に関する臨床結果モデルの振る舞いを評価する拡張可能なテストフレームワークを提案する。 私たちは、同じデータを微調整しても、モデル行動は劇的に変化し、最高のパフォーマンスのモデルが常に最も医学的に可能なパターンを学習していないことを示しています。
  論文  参考訳（メタデータ） (2021-11-30T15:52:04Z)
• COVID-19 in differential diagnosis of online symptom assessments [3.322985051936811]
  新型コロナウイルス(COVID-19)のパンデミックは、オンラインのヘルスケアソリューションを探している人たちの、すでに存在する傾向を拡大した。 従来の症状チェッカーは、柔軟で修正が難しい手作業による専門家システムに基づいている。 本稿では,従来のAIエキスパートシステムの強みと,新しいディープラーニングモデルを組み合わせたアプローチを提案する。
  論文  参考訳（メタデータ） (2020-08-07T18:10:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。