論文の概要: Unveiling Institution-Specific Bias in Pathology Foundation Models: Detriments, Causes, and Potential Solutions

• arxiv url: http://arxiv.org/abs/2502.16889v1
• Date: Mon, 24 Feb 2025 06:40:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-25 22:36:56.438671
• Title: Unveiling Institution-Specific Bias in Pathology Foundation Models: Detriments, Causes, and Potential Solutions
• Title（参考訳）: 病態基礎モデルにおける制度的バイアスの解明--除草・原因・可能性-
• Authors: Weiping Lin, Shen Liu, Runchen Zhu, Liansheng Wang,
• Abstract要約: 病理基盤モデル(PFM)によって抽出された特徴は,診断関連情報によってしばしば汚染される。 この汚染は、実際の臨床環境に適用する際のモデルの一般化能力を損なう、急激な相関をもたらす可能性がある。 我々は,無関係な情報の影響を軽減するための,シンプルで効果的なソリューションを提案する。
• 参考スコア（独自算出の注目度）: 10.037604479753162
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Pathology foundation models (PFMs) extract valuable discriminative features from images for downstream clinical tasks. PFMs have simplified the development of deep learning models, effectively leveraging prior knowledge to improve diagnostic accuracy in diverse scenarios. However, we find that PFMs sometimes struggle with certain challenges. Specifically, features extracted by PFMs are often contaminated by diagnosis-irrelevant information, i.e., institution-specific features associated with the images. This contamination can lead to spurious correlations, undermining the models' generalization ability when applied in real-world clinical settings. In this work, we first reveal the issue of feature contamination in PFMs, demonstrate the presence of institution-specific features, thoroughly investigate its negative impacts, analyze the underlying causes, and provide insights into potential solutions. Specifically, we find that institution-specific information is embedded in pathological images and can be readily captured by current PFMs. Through extensive experiments, we demonstrate the detrimental impact of this irrelevant information, particularly in out-of-distribution (OOD) settings, where reliance on contaminated features leads to significant performance degradation. This indicates that the models are being misled by non-diagnostic information. We further delve into the reasons PFMs extract such institution-specific information and validate our findings. Finally, we propose a simple yet effective solution to mitigate the influence of irrelevant information. This study is not intended to criticize existing PFMs, as they have indeed greatly advanced the development of computational pathology. our aim is to inspire future research to focus on innovative training strategies, rather than relying exclusively on scaling laws, to realize more generalized PFMs.
• Abstract（参考訳）: 病理基盤モデル(PFMs)は、下流の臨床的タスクのために画像から貴重な識別的特徴を抽出する。 PFMは、様々なシナリオにおける診断精度を改善するために、事前知識を効果的に活用し、ディープラーニングモデルの開発を単純化した。 しかし、PFMは特定の課題に苦しむことがある。 具体的には、PFMによって抽出された特徴は、診断に関連のない情報、すなわち画像に関連する機関固有の特徴によってしばしば汚染される。 この汚染は、実際の臨床環境に適用する際のモデルの一般化能力を損なう、急激な相関をもたらす可能性がある。 本研究は, PFMにおける特徴汚染の問題を最初に明らかにし, 施設固有の特徴の存在を実証し, その負の影響を徹底的に調査し, その原因を分析し, 潜在的な解決策に関する洞察を提供する。 具体的には, 施設固有の情報は病理画像に埋め込まれており, 現状のPFMで容易に捉えられることが判明した。 広範にわたる実験を通じて、この無関係な情報の有害な影響、特に汚染された特徴への依存が性能を著しく低下させるオフ・オブ・ディストリビューション(OOD)における影響を実証した。 これは、モデルは非診断的な情報によって誤解されていることを示している。 PFMがそのような施設固有の情報を抽出する理由をさらに掘り下げ、その結果を検証した。 最後に,無関係な情報の影響を軽減するための,シンプルで効果的なソリューションを提案する。 この研究は、計算病理学の発展が著しく進んでいるため、既存のPFMを批判するものではない。 我々の目標は、より一般化されたPFMを実現するために、法のスケーリングにのみ依存するのではなく、革新的なトレーニング戦略に焦点をあてることに、将来の研究を刺激することである。

関連論文リスト

• Machine Learning Solutions Integrated in an IoT Healthcare Platform for Heart Failure Risk Stratification [0.16863755729554883]
  慢性心不全(HF)の管理は、現代医療において重要な課題である。 本稿では,HFリスクのある患者を識別するための機械学習(ML)技術に基づく予測モデルを提案する。
  論文  参考訳（メタデータ） (2025-04-07T14:07:05Z)
• A Survey of Pathology Foundation Model: Progress and Future Directions [3.009351592961681]
  近年の病理基盤モデル (PFM) は, 大規模な病理組織学的データに基づいて, 抽出器と凝集器の機能を大幅に増強した。 本調査では,各領域のFM分析に利用可能なトップダウンの哲学を通じて,PFMを分類する階層的分類について述べる。
  論文  参考訳（メタデータ） (2025-04-05T03:44:09Z)
• Conformal uncertainty quantification to evaluate predictive fairness of foundation AI model for skin lesion classes across patient demographics [8.692647930497936]
  我々は、コンフォメーション解析を用いて、視覚変換器に基づく基礎モデルの予測不確かさを定量化する。 基礎モデルの特徴埋め込みの堅牢性を評価するために、公正度測定としてどのように使用できるかを示す。
  論文  参考訳（メタデータ） (2025-03-31T08:06:00Z)
• Perplexity Trap: PLM-Based Retrievers Overrate Low Perplexity Documents [64.43980129731587]
  因果診断・矯正法(CDC)という因果推論時間脱バイアス法を提案する。 CDCはまず、パープレキシティのバイアス効果を診断し、その後、全体の関連スコアからバイアス効果を分離する。 3つの領域にまたがる実験結果から, より優れた脱バイアス効果が示された。
  論文  参考訳（メタデータ） (2025-03-11T17:59:00Z)
• Fragility-aware Classification for Understanding Risk and Improving Generalization [6.926253982569273]
  リスク・リバースの観点から分類性能を評価する新しい指標であるFragility Index(FI)を導入する。 我々は, クロスエントロピー損失, ヒンジ型損失, リプシッツ損失の正確な修正を導き, 深層学習モデルへのアプローチを拡張した。
  論文  参考訳（メタデータ） (2025-02-18T16:44:03Z)
• Fair Diagnosis: Leveraging Causal Modeling to Mitigate Medical Bias [14.848344916632024]
  医学画像解析では、モデル予測は人種や性別などのセンシティブな属性に影響される可能性がある。 本稿では,感度属性が診断予測に与える影響を低減することを目的とした因果モデリングフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-12-06T02:59:36Z)
• FOCUS: Knowledge-enhanced Adaptive Visual Compression for Few-shot Whole Slide Image Classification [4.148491257542209]
  少ないショット学習は、計算病理学における癌診断の重要な解決策である。 このパラダイムにおける重要な課題は、スライド画像全体(WSI)の限られたトレーニングセットと膨大な数のパッチとの間の固有の相違に起因する。 我々は、診断関連領域の集中分析を可能にするために、知識強化型適応型視覚圧縮フレームワーク、FOCUSを紹介した。
  論文  参考訳（メタデータ） (2024-11-22T05:36:38Z)
• Establishing Causal Relationship Between Whole Slide Image Predictions and Diagnostic Evidence Subregions in Deep Learning [3.5504159526793924]
  Causal Inference Multiple Instance Learning (CI-MIL)は、サブイメージの認識の混乱を軽減するために配布外一般化を利用する。 CI-MILは、その選択された領域が基底真理アノテーションと高い一貫性を示すため、優れた解釈可能性を示す。
  論文  参考訳（メタデータ） (2024-07-24T11:00:08Z)
• Decoding Decision Reasoning: A Counterfactual-Powered Model for Knowledge Discovery [6.1521675665532545]
  医用画像では、AIモデルの予測の背後にある根拠を明らかにすることが、信頼性を評価する上で重要である。 本稿では,意思決定推論と特徴識別機能を備えた説明可能なモデルを提案する。 提案手法を実装することにより,データ駆動モデルにより活用されるクラス固有の特徴を効果的に識別および可視化することができる。
  論文  参考訳（メタデータ） (2024-05-23T19:00:38Z)
• Unified Uncertainty Estimation for Cognitive Diagnosis Models [70.46998436898205]
  本稿では,幅広い認知診断モデルに対する統一的不確実性推定手法を提案する。 診断パラメータの不確かさをデータ・アスペクトとモデル・アスペクトに分解する。 本手法は有効であり,認知診断の不確実性に関する有用な知見を提供することができる。
  論文  参考訳（メタデータ） (2024-03-09T13:48:20Z)
• Optimizing Skin Lesion Classification via Multimodal Data and Auxiliary Task Integration [54.76511683427566]
  本研究は, スマートフォンで撮影した画像と本質的な臨床および人口統計情報を統合することで, 皮膚病変を分類する新しいマルチモーダル手法を提案する。 この手法の特徴は、超高解像度画像予測に焦点を当てた補助的なタスクの統合である。 PAD-UFES20データセットを用いて,様々なディープラーニングアーキテクチャを用いて実験を行った。
  論文  参考訳（メタデータ） (2024-02-16T05:16:20Z)
• Progress and Opportunities of Foundation Models in Bioinformatics [77.74411726471439]
  基礎モデル(FM)は、特に深層学習の領域において、計算生物学の新しい時代に定着した。 我々の焦点は、特定の生物学的問題にFMを応用することであり、研究ニーズに適切なFMを選択するために研究コミュニティを指導することを目的としています。 データノイズ、モデル説明可能性、潜在的なバイアスなど、生物学においてFMが直面する課題と限界を分析します。
  論文  参考訳（メタデータ） (2024-02-06T02:29:17Z)
• MedDiffusion: Boosting Health Risk Prediction via Diffusion-based Data Augmentation [58.93221876843639]
  本稿では,MedDiffusion という,エンドツーエンドの拡散に基づくリスク予測モデルを提案する。 トレーニング中に合成患者データを作成し、サンプルスペースを拡大することで、リスク予測性能を向上させる。 ステップワイズ・アテンション・メカニズムを用いて患者の来訪者間の隠れた関係を識別し、高品質なデータを生成する上で最も重要な情報をモデルが自動的に保持することを可能にする。
  論文  参考訳（メタデータ） (2023-10-04T01:36:30Z)
• Explainable AI for clinical risk prediction: a survey of concepts, methods, and modalities [2.9404725327650767]
  臨床リスク予測のための説明可能なモデルの開発状況 外部検証の必要性と多様な解釈可能性メソッドの組み合わせを強調している。 臨床リスク予測における説明可能性へのエンドツーエンドアプローチは成功に不可欠である。
  論文  参考訳（メタデータ） (2023-08-16T14:51:51Z)
• Explainable AI for Malnutrition Risk Prediction from m-Health and Clinical Data [3.093890460224435]
  異種m-healthデータに基づく早期かつ説明可能な栄養失調リスク検出のための新しいAIフレームワークを提案する。 対象非依存および個人化予測を含む広範囲なモデル評価を行った。 また,グローバルモデル記述を抽出するベンチマークXAI法についても検討した。
  論文  参考訳（メタデータ） (2023-05-31T08:07:35Z)
• Informing clinical assessment by contextualizing post-hoc explanations of risk prediction models in type-2 diabetes [50.8044927215346]
  本研究は, 合併症リスク予測のシナリオを考察し, 患者の臨床状態に関する文脈に焦点を当てる。 我々は、リスク予測モデル推論に関する文脈を提示し、その受容性を評価するために、最先端のLLMをいくつか採用する。 本論文は,実世界における臨床症例における文脈説明の有効性と有用性を明らかにする最初のエンドツーエンド分析の1つである。
  論文  参考訳（メタデータ） (2023-02-11T18:07:11Z)
• Data-Centric Epidemic Forecasting: A Survey [56.99209141838794]
  この調査は、様々なデータ駆動の方法論および実践的進歩を掘り下げるものである。 疫学的なデータセットと,流行予測に関連する新しいデータストリームを列挙する。 また,これらの予測システムの現実的な展開において生じる経験や課題についても論じる。
  論文  参考訳（メタデータ） (2022-07-19T16:15:11Z)
• Benchmarking Heterogeneous Treatment Effect Models through the Lens of Interpretability [82.29775890542967]
  治療のパーソナライズされた効果を見積もるのは複雑だが、普及している問題である。 ヘテロジニアス処理効果推定に関する機械学習文献の最近の進歩は、洗練されたが不透明なツールの多くを生み出した。 我々は、ポストホックな特徴重要度法を用いて、モデルの予測に影響を及ぼす特徴を特定する。
  論文  参考訳（メタデータ） (2022-06-16T17:59:05Z)
• Domain Invariant Model with Graph Convolutional Network for Mammogram Classification [49.691629817104925]
  グラフ畳み込みネットワークを用いたドメイン不変モデル(DIM-GCN)を提案する。 まず,潜伏変数を病原性その他の疾患関連部位に明示的に分解するベイズネットワークを提案する。 マクロな特徴をよりよく捉えるために、我々は、GCN(Graph Convolutional Network)を介して、観察された臨床特性を再構築の目的として活用する。
  論文  参考訳（メタデータ） (2022-04-21T08:23:44Z)
• What Do You See in this Patient? Behavioral Testing of Clinical NLP Models [69.09570726777817]
  本稿では,入力の変化に関する臨床結果モデルの振る舞いを評価する拡張可能なテストフレームワークを提案する。 私たちは、同じデータを微調整しても、モデル行動は劇的に変化し、最高のパフォーマンスのモデルが常に最も医学的に可能なパターンを学習していないことを示しています。
  論文  参考訳（メタデータ） (2021-11-30T15:52:04Z)
• Clinical Outcome Prediction from Admission Notes using Self-Supervised Knowledge Integration [55.88616573143478]
  臨床テキストからのアウトカム予測は、医師が潜在的なリスクを見落としないようにする。 退院時の診断,手術手順,院内死亡率,長期予測は4つの一般的な結果予測対象である。 複数の公開資料から得られた患者結果に関する知識を統合するために,臨床結果の事前学習を提案する。
  論文  参考訳（メタデータ） (2021-02-08T10:26:44Z)
• UNITE: Uncertainty-based Health Risk Prediction Leveraging Multi-sourced Data [81.00385374948125]
  我々はUNcertaInTyベースのhEalth Risk Prediction(UNITE)モデルを提案する。 UNITEは、複数ソースの健康データを活用した正確な疾患リスク予測と不確実性推定を提供する。 非アルコール性脂肪肝疾患(NASH)とアルツハイマー病(AD)の実態予測タスクにおけるUNITEの評価を行った。 UNITEはAD検出のF1スコアで最大0.841点、NASH検出のPR-AUCで最大0.609点を達成し、最高のベースラインで最大19%の高パフォーマンスを達成している。
  論文  参考訳（メタデータ） (2020-10-22T02:28:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。