論文の概要: Complementary Vulnerabilities: Auditing and Governing Clinician-LLM Error Overlap

• arxiv url: http://arxiv.org/abs/2610.25279v1
• Date: Sun, 18 Oct 2026 13:55:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-24 02:08:44.008446
• Title: Complementary Vulnerabilities: Auditing and Governing Clinician-LLM Error Overlap
• Title（参考訳）: 補完的脆弱性:臨床医-LLMエラーオーバーラップの監査と管理
• Abstract要約: 臨床医とモデルは、異なるメカニズムを分解する程度に相補的な脆弱性を持っていると言います。 本稿では,各サイトが自己のケースで重複するエラーを計測する事前デプロイ監査を提案する。 また、サイトが時間とともにこれらのエラーを独立に維持するガバナンスモデルを提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Health systems are deploying large language models (LLMs) into clinical workflows, often on the assumption that a second automated check can only reduce error. But a second reasoner reduces error only insofar as it fails differently from the first. We say that a clinician and a model have complementary vulnerabilities to the extent that they break down through different mechanisms and on different cases. The two reasoners' failure substrates differ: they are embodied and cognitive in the clinician, and statistical and generative in the model - so their weak points need not line up. That divergence is plausible rather than guaranteed, and the independence it creates is fragile, eroding when clinicians defer to the model or the model conforms to the clinician. We therefore propose a predeployment audit in which each site measures error overlap on its own cases. We also propose a governance model with which the site keeps those errors independent over time. Health systems should then judge a clinical artificial intelligence (AI) tool by whether its failures overlap with their clinicians' failures, as well as by its accuracy.
• Abstract（参考訳）: 医療システムは、大きな言語モデル(LLM)を臨床ワークフローにデプロイする。 しかし、第2の推論器は、エラーが第1と異なる場合にのみエラーを減少させる。 臨床医とモデルは、異なるメカニズムと異なるケースを分解する程度に相補的な脆弱性を持っていると言います。 両者の失敗の基質は、臨床医に具現化され認知され、モデルに統計的および生成的である。 そのばらつきは保証されるよりも確実であり、それが生み出す独立性は脆弱であり、臨床医がそのモデルやモデルに従わないときに侵食される。 そこで本研究では,各サイトが自己のケースに重複するエラーを計測する事前デプロイ監査を提案する。 また、サイトが時間とともにこれらのエラーを独立に維持するガバナンスモデルを提案します。 医療システムは、その失敗が臨床医の失敗と重複しているか、その正確さによって、臨床人工知能(AI)ツールを判断する必要がある。

関連論文リスト

• Where Does Retrieval-Based Open-Ended Evaluation Fail? Automatic Taxonomy Induction from Long-Form Medical Answer Factuality Verification [50.168648286292004]
  既存のRAG診断では、金の回答や注釈付き金の証拠が必要であり、どちらもこの体制には存在しない。 オープンエンドのMedExpertデータセットと3つのクローズドエンドデータセットに関するケーススタディに基づいた総合的な2つのデータセットを紹介した。 我々は, LLM-as-Judge を用いた自動パターン誘導パイプラインを適用し, 証拠品質をラベル付けし, 大規模な検証器推論誤差を分類する。
  論文  参考訳（メタデータ） (2026-09-24T19:04:23Z)
• Loud or Silent? A Reusable Framework for Per-Modality Failure Analysis in Multimodal Clinical AI [3.7524666944787644]
  2つの疑問は、どのモダリティに責任があるか、そしてモデルがモダリティを落として大音量または無音で失敗するかである。 モデルに依存しないモダリティ・欠陥の枠組みとして、Nのモダリティの埋め込み、マスクを意識したプローブ、ラベルを与えられた場合、例ごとの故障分類を返します。 モダリティ当たりのVSサイレントレートを報告し、3つのモダリティ相補性行列にスケールする。
  論文  参考訳（メタデータ） (2026-08-02T19:38:56Z)
• Beyond Scalar Scores: Exploring LLM-based Metrics for Clinical Significance Evaluation in Radiology Reports [49.5225801722164]
  既存のメトリクスは、医学的に根拠のないスカラーにレポートの品質を低下させることによって、この要件を曖昧にしている。 テストベッドとしてReEvalMedベンチマークを用いて,この境界について検討し,計量レベルの臨床的意義を評価する。
  論文  参考訳（メタデータ） (2026-06-17T08:10:30Z)
• Automated Self-Testing as a Quality Gate: Evidence-Driven Release Management for LLM Applications [51.56484100374058]
  我々は,エビデンスに基づくリリース決定を伴う品質ゲートを導入する自動自己テストフレームワークを提案する。 内部展開型多エージェント対話型AIシステムの縦型ケーススタディにより,本フレームワークの評価を行った。
  論文  参考訳（メタデータ） (2026-03-13T20:44:15Z)
• On Arbitrary Predictions from Equally Valid Models [49.56463611078044]
  モデル多重性(英: Model multiplicity)とは、同じ患者に対して矛盾する予測を認める複数の機械学習モデルを指す。 たとえ小さなアンサンブルであっても、実際は予測的多重性を緩和・緩和できることを示す。
  論文  参考訳（メタデータ） (2025-07-25T16:15:59Z)
• Causal Disentanglement Hidden Markov Model for Fault Diagnosis [55.90917958154425]
  本研究では, 軸受破壊機構の因果性を学ぶために, 因果解離隠れマルコフモデル (CDHM) を提案する。 具体的には、時系列データをフル活用し、振動信号を断層関連要因と断層関連要因に段階的に分解する。 アプリケーションの範囲を広げるために、学習された非絡み合った表現を他の作業環境に転送するために、教師なしのドメイン適応を採用する。
  論文  参考訳（メタデータ） (2023-08-06T05:58:45Z)
• Deep Reinforcement Learning for Online Error Detection in Cyber-Physical Systems [1.2074552857379273]
  本稿では,Deep Reinforcement Learning(DRL)に基づく新しい誤り検出手法を提案する。 提案手法は,通常のデータから異なるタイプのエラーを分類し,システムが失敗するかどうかを予測する。 評価結果から,提案手法の精度は2倍以上に向上し,推論時間も他の手法に比べて5倍以上に向上したことが示された。
  論文  参考訳（メタデータ） (2023-02-03T06:28:54Z)
• SANSformers: Self-Supervised Forecasting in Electronic Health Records with Attention-Free Models [48.07469930813923]
  本研究は,医療施設への患者訪問数を予測することにより,医療サービスの需要を予測することを目的とする。 SNSformerは、特定の帰納バイアスを設計し、EHRデータの特異な特徴を考慮に入れた、注意のない逐次モデルである。 本研究は, 各種患者集団を対象とした医療利用予測の修正における, 注意力のないモデルと自己指導型事前訓練の有望な可能性について考察した。
  論文  参考訳（メタデータ） (2021-08-31T08:23:56Z)
• EventScore: An Automated Real-time Early Warning Score for Clinical Events [3.3039612529376625]
  臨床劣化を示す各種臨床事象の早期予測のための解釈可能なモデルを構築した。 このモデルは2つのデータセットと4つの臨床イベントで評価される。 私達のモデルは手動で記録された特徴を要求しないで完全に自動化することができます。
  論文  参考訳（メタデータ） (2021-02-11T11:55:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。