論文の概要: Detection and Validation of Hidden Subgroup Disparities in Clinical AI

• arxiv url: http://arxiv.org/abs/2610.32362v1
• Date: Fri, 23 Oct 2026 08:54:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 01:38:06.440245
• Title: Detection and Validation of Hidden Subgroup Disparities in Clinical AI
• Title（参考訳）: 臨床AIにおける隠れたサブグループの差異の検出と検証
• Abstract要約: 臨床実践における機械学習モデルは、しばしば患者グループ間で体系的に異なる働きをし、エクイティと患者の安全性に対する懸念を提起する。 従来のサブグループ分析は、リッチなメタデータが利用可能である場合にのみ、このような格差を露呈し、パフォーマンスの変動の原因を捉えることができる。 アルゴリズム的部分群探索法は、学習された特徴表現からコヒーレントなグループを特定することで解を提供する。
• 参考スコア（独自算出の注目度）: 4.20793830544734
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Machine learning (ML) models used in clinical workflows often perform systematically differently across patient groups, raising concerns about equity and patient safety. Traditional subgroup analyses can expose such disparities only when rich metadata (e.g., patient demographics) is available and captures the sources of performance variation, conditions rarely met in practice. Algorithmic subgroup discovery methods offer a solution by identifying coherent groups from learned feature representations, but because true underlying stratifications are unknown, these methods are hard to evaluate. As a result, subgroup discovery has not been systematically applied or assessed for performance monitoring. Our main objective is to evaluate algorithmic subgroup discovery for performance monitoring, assessing the discovered subgroups' performance gaps and semantic coherence. Investigating cardiomegaly classification in a dataset of 223,228 chest X-rays, we showed that the discovered subgroups exhibited larger performance gaps (accuracies of 0.61-0.90) than traditional metadata-based analysis (0.80-0.94) and were frequently interpretable using patient, acquisition, and model metadata. As a proof of concept, we also showed that annotations from learned subgroups can be used to mitigate the biases they expose. We conclude that subgroup discovery is a practical and effective tool to enhance the performance validation and monitoring of ML systems in healthcare.
• Abstract（参考訳）: 臨床ワークフローで使用される機械学習(ML)モデルは、多くの場合、患者グループ間で体系的に異なる働きをする。 従来のサブグループ分析では、リッチなメタデータ(例えば、患者人口統計)が利用可能である場合にのみ、このような格差を露呈し、パフォーマンスの変化の原因を捉えている。 アルゴリズム的部分群探索法は、学習された特徴表現からコヒーレントな群を同定することで解を提供するが、真の基盤層が不明であるため、これらの手法の評価は困難である。 その結果、サブグループ発見は、パフォーマンス監視のために体系的に適用または評価されていない。 本研究の目的は,パフォーマンス監視のためのアルゴリズム的サブグループ探索を行い,検出したサブグループのパフォーマンスギャップとセマンティックコヒーレンスを評価することである。 223,228個の胸部X線データを分析した結果, 従来のメタデータベース分析 (0.80-0.94) よりも高い性能差 (0.61-0.90) を示し, 患者, 取得, モデルメタデータを用いて頻繁に解釈できることが判明した。 概念実証として、学習したサブグループのアノテーションが、それらが公開するバイアスを軽減するために使用できることを示した。 我々は、サブグループ発見が医療におけるMLシステムの性能検証とモニタリングを強化するための実用的で効果的なツールであると結論付けている。

関連論文リスト

• Automatic Discovery of Disease Subgroups by Contrasting with Healthy Controls [8.272083537040182]
  我々はDeep UCSLと題するコントラシティブサブグループ探索法を開発した。 コントロールを持つ患者と対比することにより、Deep UCSLは、病因のみによって引き起こされるサブグループを特定する。 我々のフレームワークは、識別表現空間を学習するために、深い特徴抽出器を使用している。
  論文  参考訳（メタデータ） (2026-05-20T15:31:16Z)
• Data-Driven Discovery of Feature Groups in Clinical Time Series [11.418915308804822]
  予測タスクの類似性と関連性に基づく機能のグループ化は,ディープラーニングアーキテクチャの性能向上に寄与することが示されている。 本稿では,特徴群を階層化することで特徴群を学習する手法を提案する。 提案手法は, 合成データに対する静的クラスタリング手法よりも優れ, 実世界の医療データに対する専門家定義グループに匹敵する性能を実現する。
  論文  参考訳（メタデータ） (2025-11-11T13:53:39Z)
• Subgroup Performance Analysis in Hidden Stratifications [4.525676373095224]
  機械学習モデルは、患者グループ間での大幅なパフォーマンス格差に悩まされる可能性がある。 分類ラベルやメタデータにアクセスすることなく、簡易なサブグループ発見手法を提案する。 医療における信頼性の高いAIの総合的なパフォーマンス検証とモニタリングのための重要なツールとして,サブグループ発見が有効である,という最初の説得力のある証拠を提供する。
  論文  参考訳（メタデータ） (2025-03-13T13:57:24Z)
• Two Is Better Than One: Aligned Representation Pairs for Anomaly Detection [56.57122939745213]
  異常検出は、標準から逸脱するサンプルを特定することに焦点を当てる。 近年の自己教師型手法は, 異常に関する事前知識を用いて, トレーニング中に合成外れ値を生成することによって, それらの表現をうまく学習している。 この制限は、通常のサンプルにおける対称性に関する事前の知識を活用して、異なるコンテキストでデータを観測する、新しいアプローチであるCon$で対処する。
  論文  参考訳（メタデータ） (2024-05-29T07:59:06Z)
• A structured regression approach for evaluating model performance across intersectional subgroups [53.91682617836498]
  分散評価(disaggregated evaluation)は、AIフェアネスアセスメントにおける中心的なタスクであり、AIシステムのさまざまなサブグループ間でのパフォーマンスを測定することを目的としている。 非常に小さなサブグループであっても,信頼性の高いシステム性能推定値が得られることを示す。
  論文  参考訳（メタデータ） (2024-01-26T14:21:45Z)
• The Role of Subgroup Separability in Group-Fair Medical Image Classification [18.29079361470428]
  診断などの系統的バイアスを伴うデータを用いて, サブグループ分離性, サブグループ分離性, 性能劣化の関係について検討した。 私たちの発見は、モデルがどのように偏見を抱くかという問題に新たな光を当て、公正な医療画像AIの開発に重要な洞察を与えました。
  論文  参考訳（メタデータ） (2023-07-06T06:06:47Z)
• Deep Hypothesis Tests Detect Clinically Relevant Subgroup Shifts in Medical Images [21.01688837312175]
  機械学習システムにおけるサブグループシフトの検出に焦点をあてる。 近年の最先端統計検査は, 医用画像データのサブグループシフト検出に有効である。
  論文  参考訳（メタデータ） (2023-03-08T19:58:41Z)
• Auditing Algorithmic Fairness in Machine Learning for Health with Severity-Based LOGAN [70.76142503046782]
  臨床予測タスクにおいて,局所バイアスを自動検出するSLOGANを用いて,機械学習ベースの医療ツールを補足することを提案する。 LOGANは、患者の重症度と過去の医療史における集団バイアス検出を文脈化することにより、既存のツールであるLOcal Group biAs detectioNに適応する。 SLOGANは, クラスタリング品質を維持しながら, 患者群の75%以上において, SLOGANよりも高い公平性を示す。
  論文  参考訳（メタデータ） (2022-11-16T08:04:12Z)
• Outlier-Robust Group Inference via Gradient Space Clustering [50.87474101594732]
  既存のメソッドは、最悪のグループのパフォーマンスを改善することができるが、それらは、しばしば高価で入手できないグループアノテーションを必要とする。 モデルパラメータの勾配の空間にデータをクラスタリングすることで,アウトレーヤの存在下でグループアノテーションを学習する問題に対処する。 そこで我々は,DBSCANのような標準クラスタリング手法に適合するように,マイノリティグループや外れ値に関する情報を保存しながら,勾配空間内のデータがより単純な構造を持つことを示す。
  論文  参考訳（メタデータ） (2022-10-13T06:04:43Z)
• Deep Semi-Supervised Embedded Clustering (DSEC) for Stratification of Heart Failure Patients [50.48904066814385]
  本研究では、深層半教師付き組込みクラスタリングを用いて、心不全のデータ駆動型患者サブグループを決定する。 ヘテロジニアスデータから得られた組込み空間から臨床関連クラスタを見出した。 提案アルゴリズムは、異なる結果を持つ患者の新たな未診断サブグループを見つけることができる。
  論文  参考訳（メタデータ） (2020-12-24T12:56:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。