論文の概要: Accuracy Is Not Risk: Why Medical AI Should Not Report Only Its Most Likely Label

• arxiv url: http://arxiv.org/abs/2611.01312v1
• Date: Sat, 31 Oct 2026 22:21:48 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-11-03 19:30:12.02385
• Title: Accuracy Is Not Risk: Why Medical AI Should Not Report Only Its Most Likely Label
• Title（参考訳）: 医療用AIが最強のラベルだけを報告すべきでない理由
• Abstract要約: 多くの医療AIモデルは、単一の参照ラベルを再現し、最も可能性が高いラベルを臨床ワークフローの次のステップに渡すように訓練されている。 我々はJeffreyの条件付けの規則を用いて、診断や画像カテゴリーなどの中間状態の確率が結果のリスクに先延ばしできるかどうかを特定する。
• 参考スコア（独自算出の注目度）: 0.1983263115528484
• License:
• Abstract: Background. Many medical AI models are trained to reproduce a single reference label and hand the most likely label to the next step in a clinical workflow. A classifier can select that label correctly while providing an inadequate summary for estimating downstream risk. Methods. We use Jeffrey's rule of conditioning to specify when probabilities over intermediate states, such as diagnoses or imaging categories, can be carried forward to an outcome risk. We separate two errors of reporting only the most likely label, discarding the probability of the other states and applying the risk of patients who have the leading diagnosis to a patient who only probably has it. We also give conditions under which the label and the full distribution lead to the same decision, and we propose guardrails for device developers, regulatory reviewers, and health insurers. Results. In a hypothetical chest-pain differential, reporting only the benign leading diagnosis greatly understates the patient's risk of death or cardiac arrest, so a patient who warrants evaluation could be discharged or denied imaging. In a hypothetical BI-RADS example, the most likely category is "probably benign," yet the propagated malignancy risk exceeds the ceiling that defines that category. Conclusions. A predicted label is not an observed state, and a calibrated classifier is not automatically a valid outcome model. Clinical and insurance coverage decisions should rest on the patient's outcome risk, judged against a threshold justified by the consequences of acting and not acting. Developers should state what each model output means and check that every step between the model and the decision preserves the patient's risk.
• Abstract（参考訳）: 背景。 多くの医療AIモデルは、単一の参照ラベルを再現し、最も可能性が高いラベルを臨床ワークフローの次のステップに渡すように訓練されている。 分類器はそのラベルを正しく選択でき、下流のリスクを見積もるには不十分な要約を提供する。 メソッド。 我々はJeffreyの条件付けの規則を用いて、診断や画像カテゴリーなどの中間状態の確率が結果のリスクに先延ばしできるかどうかを特定する。 我々は,最も可能性の高いラベルのみを報告し,他の状態の可能性を排除し,診断を先導する患者のリスクを,おそらくそれを持つ患者に当てはめるという2つの誤りを分離した。 また,ラベルと全流通が同じ決定を下す条件を提示し,デバイス開発者,規制レビュアー,健康保険業者に対するガードレールを提案する。 結果。 仮説的胸痛差では、良性先天診断のみを報告すると、患者の死亡または心停止のリスクが大きく低下するので、評価を保証された患者は、退院または画像診断を拒否することができる。 仮説的 BI-RADS の例では、最も可能性の高いカテゴリは「おそらく良性」であるが、伝播する悪性度リスクは、そのカテゴリを定義する天井を超えている。 結論。 予測ラベルは観測状態ではなく、校正分類器は自動的に有効な結果モデルではない。 臨床および保険に関する決定は、行動の結果と行動しない結果によって正当化された閾値に対して判断される患者の結果のリスクに左右されるべきである。 開発者は、各モデルのアウトプットの意味を述べ、モデルと決定の間のすべてのステップが患者のリスクを保存することを確認すべきである。

関連論文リスト

• OmniMed-Jev: Calibrating LVLM Confidence for Trustworthy Medical Multimodal Decisions via System One [9.555285052728198]
  提案するOmniMed-Jevは,複数モーダル供給候補集合に対する選択,Nuul,スコア決定として,それぞれの医学的決定を表現している。 様々な画像モダリティを受け入れ、異なる予測タスクをカバーし、1つの候補条件付き確率モデルを通してそれらを表現する。 OmniMed-Jevの報告した確率トラックは、同じバックボーン、データ、スケジュールでトレーニングされた生成ベースラインに対するインターフェース制御された比較において、より正確に観察された。
  論文  参考訳（メタデータ） (2026-09-30T08:53:54Z)
• Auditing Fairness under Unobserved Confounding [56.61738581796362]
  意外なことに、リスクの高い人に対する治療率の有意義な限界を計算できることが示されています。 現実の多くの環境では、リスクの偏りのない見積を導き出すために、アロケーションの前にデータを持っているという事実を使用します。
  論文  参考訳（メタデータ） (2024-03-18T21:09:06Z)
• Domain constraints improve risk prediction when outcome data is missing [1.6840408099522377]
  機械学習モデルにより, 検査対象者および検査対象者双方のリスクを正確に推定できることが示唆された。 本研究は,癌リスク予測のケーススタディに適用し,そのモデルが癌診断を予測していることを示す。
  論文  参考訳（メタデータ） (2023-12-06T19:49:06Z)
• Diagnosis Uncertain Models For Medical Risk Prediction [80.07192791931533]
  本研究は, 患者の診断にはアクセスできない, バイタルサイン, 検査値, 既往歴にアクセス可能な患者リスクモデルについて考察する。 このようなすべての原因のリスクモデルが、診断全体にわたって良い一般化を持つが、予測可能な障害モードを持つことが示される。 患者診断の不確実性から生じるリスク予測の不確実性を明示的にモデル化し,この問題に対する対策を提案する。
  論文  参考訳（メタデータ） (2023-06-29T23:36:04Z)
• SCRIB: Set-classifier with Class-specific Risk Bounds for Blackbox Models [48.374678491735665]
  クラス固有RIsk境界(SCRIB)を用いたSet-classifierを導入し,この問題に対処する。 SCRIBは、クラス固有の予測リスクを理論的保証で制御するセット分類器を構築する。 脳波(EEG)データによる睡眠ステージング,X線COVID画像分類,心電図(ECG)データに基づく心房細動検出など,いくつかの医学的応用についてSCRIBを検証した。
  論文  参考訳（メタデータ） (2021-03-05T21:06:12Z)
• UNITE: Uncertainty-based Health Risk Prediction Leveraging Multi-sourced Data [81.00385374948125]
  我々はUNcertaInTyベースのhEalth Risk Prediction(UNITE)モデルを提案する。 UNITEは、複数ソースの健康データを活用した正確な疾患リスク予測と不確実性推定を提供する。 非アルコール性脂肪肝疾患(NASH)とアルツハイマー病(AD)の実態予測タスクにおけるUNITEの評価を行った。 UNITEはAD検出のF1スコアで最大0.841点、NASH検出のPR-AUCで最大0.609点を達成し、最高のベースラインで最大19%の高パフォーマンスを達成している。
  論文  参考訳（メタデータ） (2020-10-22T02:28:11Z)
• Towards Causality-Aware Inferring: A Sequential Discriminative Approach for Medical Diagnosis [142.90770786804507]
  医学診断アシスタント(MDA)は、疾患を識別するための症状を逐次調査する対話型診断エージェントを構築することを目的としている。 この研究は、因果図を利用して、MDAにおけるこれらの重要な問題に対処しようとする。 本稿では,他の記録から知識を引き出すことにより,非記録的調査に効果的に答える確率に基づく患者シミュレータを提案する。
  論文  参考訳（メタデータ） (2020-03-14T02:05:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。