Fugu-MT 論文翻訳(概要): CHILD: Human-in-the-Loop OOD Detection for Safe Clinical Deployment

論文の概要: CHILD: Human-in-the-Loop OOD Detection for Safe Clinical Deployment

arxiv url: http://arxiv.org/abs/2609.07188v1
Date: Mon, 07 Sep 2026 08:16:16 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-12 01:15:33.674584
Title: CHILD: Human-in-the-Loop OOD Detection for Safe Clinical Deployment
Title（参考訳）: ChiLD:安全な臨床展開のための人体OOD検出
Abstract要約: 医療用AIシステムの安全な配置には、アウト・オブ・ディストリビューション(OOD)検出が不可欠である。 Childはトレーニング不要のフレームワークで、少ない人間のフィードバックによるストリーミングOOD検出を強化するように設計されている。
参考スコア（独自算出の注目度）: 10.39440916519377
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Out-of-distribution (OOD) detection is critical for safe deployment of medical AI systems. Recently, test-time adaptation (TTA) has emerged as a new paradigm for OOD detection, automatically adjusting detector behavior during deployment. However, such automatic adaptation mechanisms may raise safety concerns in safety-critical clinical environments. While physician oversight can mitigate these risks, it is resource-intensive and must be judiciously allocated. To reconcile safety with efficiency, we propose CHILD, a training-free framework designed to enhance streaming OOD detection via sparse human feedback. Operating under strict budget constraints, CHILD employs an adaptive risk-aware sample selection mechanism to pinpoint only the most decision-uncertain samples for review. Crucially, it maximizes the utility of this sparse feedback through a retrieval-based score calibration module, which refines model predictions using a compact feature cache without any parameter updates. Extensive experiments on four medical benchmarks demonstrate that CHILD turns limited supervision into significant reliability gains: with a sparse feedback budget of only 5%, it reduces the average FPR95 from 72.63% to 60.26% and improves AUROC from 75.53% to 81.85%, consistently outperforming state-of-the-art baselines. Our code is publicly available at https://github.com/figec/CHILD.
Abstract（参考訳）: 医療用AIシステムの安全な配置には、アウト・オブ・ディストリビューション(OOD)検出が不可欠である。近年,OOD検出の新たなパラダイムとしてテスト時間適応(TTA)が登場し,展開中の検出動作を自動的に調整している。しかし、このような自動適応機構は、安全クリティカルな臨床環境における安全性の懸念を引き起こす可能性がある。医師の監督はこれらのリスクを軽減することができるが、それは資源集約であり、司法的に割り当てられなければならない。安全と効率の両立を図るため,低速なフィードバックによるストリーミングOOD検出を向上するトレーニングフリーフレームワークCHILDを提案する。厳格な予算制約の下で運用されているCHILDは、アダプティブなリスク対応サンプル選択メカニズムを使用して、レビュー対象の最も決定の不確実なサンプルのみを特定する。重要なことは、このスパースフィードバックの有用性を検索ベースのスコアキャリブレーションモジュールを通じて最大化し、パラメータを更新せずにコンパクトな特徴キャッシュを使用してモデル予測を洗練する。低いフィードバック予算の5%しか持たず、平均FPR95を72.63%から60.26%に下げ、AUROCを75.53%から81.85%に改善し、一貫して最先端のベースラインを上回っている。私たちのコードはhttps://github.com/figec/CHILD.comで公開されています。

関連論文リスト

A Robust Out-of-Distribution Detection Framework via Synergistic Smoothing [14.102179108540161]
最先端のOOD検出器は敵の攻撃に非常に敏感である。我々は、新しい、堅牢なポストホックOOD検出器であるROSを提案する。 ROSSはスコア最小化攻撃とスコア最大化攻撃の両方に強く反対する。
論文参考訳（メタデータ） (2026-05-05T15:45:38Z)
A DeepSeek-Powered AI System for Automated Chest Radiograph Interpretation in Clinical Practice [83.11942224668127]
Janus-Pro-CXR (1B) はDeepSeek Janus-Proモデルに基づく胸部X線解釈システムである。本システムは, 自動レポート生成において, 最先端のX線レポート生成モデルより優れる。
論文参考訳（メタデータ） (2025-12-23T13:26:13Z)
Balancing Safety and Helpfulness in Healthcare AI Assistants through Iterative Preference Alignment [9.422745886489801]
大きな言語モデル(LLM)は、医療でますます使われていますが、その安全性と信頼性は、デプロイメントの障壁として残っています。本稿では,KTO(Kahneman-Tversky Optimization)とDPO(Direct Preference Optimization)を用いて,ドメイン固有の安全信号に対するモデルの改良を行う。
論文参考訳（メタデータ） (2025-12-03T19:30:07Z)
EchoBench: Benchmarking Sycophancy in Medical Large Vision-Language Models [82.43729208063468]
医療用LVLM(Large Vision-Language Models)の最近のベンチマークでは、信頼性と安全性を見越して、リーダボードの精度を強調している。ユーザが提供した情報を非批判的に反響させる傾向のモデルについて検討する。医療用LVLMの梅毒を系統的に評価するベンチマークであるEchoBenchを紹介する。
論文参考訳（メタデータ） (2025-09-24T14:09:55Z)
Beyond Benchmarks: Dynamic, Automatic And Systematic Red-Teaming Agents For Trustworthy Medical Language Models [87.66870367661342]
大規模言語モデル(LLM)は、医療におけるAIアプリケーションで使用される。 LLMを継続的にストレステストするレッドチームフレームワークは、4つのセーフティクリティカルなドメインで重大な弱点を明らかにすることができる。敵エージェントのスイートは、自律的に変化するテストケースに適用され、安全でないトリガー戦略を特定し、評価する。私たちのフレームワークは、進化可能でスケーラブルで信頼性の高い、次世代の医療AIのセーフガードを提供します。
論文参考訳（メタデータ） (2025-07-30T08:44:22Z)
Taming False Positives in Out-of-Distribution Detection with Human Feedback [6.192472816262214]
我々は,専門家のフィードバックを生かした数学的基盤を持つOOD検出フレームワークを提案し,そのしきい値の即時更新を行う。人間のフィードバックを最小化しながら、常にFPRの制約を満たすことが保証されていることを示す理論的結果を提供する。
論文参考訳（メタデータ） (2024-04-25T18:06:47Z)
Conservative Prediction via Data-Driven Confidence Minimization [70.93946578046003]
機械学習の安全性クリティカルな応用においては、モデルが保守的であることが望ましいことが多い。本研究では,不確実性データセットに対する信頼性を最小化するデータ駆動信頼性最小化フレームワークを提案する。
論文参考訳（メタデータ） (2023-06-08T07:05:36Z)
Free Lunch for Generating Effective Outlier Supervision [46.37464572099351]
本稿では, ほぼ現実的な外乱監視を実現するための超効率的な手法を提案する。提案したtextttBayesAug は,従来の方式に比べて偽陽性率を 12.50% 以上削減する。
論文参考訳（メタデータ） (2023-01-17T01:46:45Z)
Diffusion Denoising Process for Perceptron Bias in Out-of-distribution Detection [67.49587673594276]
我々は、識別器モデルが入力の特定の特徴に対してより敏感であることを示唆する新しいパーセプトロンバイアスの仮定を導入し、過度な問題を引き起こした。 DMの拡散分解過程 (DDP) が非対称の新たな形態として機能し, 入力を高め, 過信問題を緩和するのに適していることを示す。 CIFAR10, CIFAR100, ImageNetによる実験により, 提案手法がSOTA手法より優れていることが示された。
論文参考訳（メタデータ） (2022-11-21T08:45:08Z)
Robust Out-of-distribution Detection for Neural Networks [51.19164318924997]
既存の検出機構は, 分布内およびOOD入力の評価において, 極めて脆弱であることを示す。 ALOE と呼ばれる実効性のあるアルゴリズムを提案する。このアルゴリズムは,逆向きに構築された逆数と外数の両方の例にモデルを公開することにより,堅牢なトレーニングを行う。
論文参考訳（メタデータ） (2020-03-21T17:46:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。