論文の概要: Look What the Probes Dragged In! Real-World Chest X-ray Shortcuts in MedCLIP
- arxiv url: http://arxiv.org/abs/2608.12086v1
- Date: Wed, 12 Aug 2026 14:08:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-13 19:07:54.600376
- Title: Look What the Probes Dragged In! Real-World Chest X-ray Shortcuts in MedCLIP
- Title(参考訳): MedCLIPの現実の胸部X線ショートカット
- Abstract要約: 医療用CLIPモデルであるMedCLIPの様々な層に現実世界のショートカットがどのように現れるかを検討する。
最終線形プローブは高いAUROCが得られるが、モデルのキャリブレーションは不十分である。
ドレインのような局所的なショートカットと整合したパターンが後続のレイヤに現れ、スキャナ固有のノイズパターンのような拡散ショートカットと整合したパターンが早く現れる。
- 参考スコア(独自算出の注目度): 1.4336070582473752
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Vision-language models, such as contrastive language-image pre-training (CLIP)-based approaches, have reached state-of-the-art (SOTA) results in medical artificial intelligence. However, recent work reveals that CLIP-based models remain vulnerable to shortcuts. We investigate how real-world shortcuts manifest across different layers of the medical CLIP-based model, MedCLIP, and its vision encoder, a frozen ResNet-50. We attach 17 linear classification probes to the intermediate layers of the ResNet-50 and train them on three different dataset configurations and targets: NIH-CXR14 (pneumothorax) and PadChest (cardiomegaly and pneumothorax). This setup allows us to observe model behaviour during evaluation using subgroup-based calibration and layer-wise confidence curves. We find that the final linear probes achieve a high AUROC but poor calibration in the models. The layer-wise confidence analyses suggest that shortcuts emerge at different depths. Patterns consistent with localised shortcuts, such as drains, appear at later layers, while patterns consistent with diffuse shortcuts, such as scanner-specific noise patterns, emerge earlier, aligning with previous work. Finally, we conduct a manual analysis of the images, which reveals data quality issues in both NIH-CXR14 and PadChest. Our findings underscore that even SOTA models remain vulnerable to shortcuts, and the need for high-quality and well-annotated datasets to draw solid conclusions. Code can be found on our GitHub: https://github.com/nikodice4/MedCLIP_shortcuts.
- Abstract(参考訳): 対照的な言語画像事前訓練(CLIP)ベースのアプローチのような視覚言語モデルは、医学人工知能の最先端(SOTA)に到達した。
しかし、最近の研究によると、CLIPベースのモデルはショートカットに弱いままである。
医療用CLIPモデルであるMedCLIPとそのビジョンエンコーダであるResNet-50の様々な層で現実世界のショートカットがどのように現れるかを検討する。
我々は17個の線形分類プローブをResNet-50の中間層に装着し、NIH-CXR14 (pneumothorax) とPadChest (cardiomegaly and pneumothorax) の3つの異なるデータセット構成とターゲットをトレーニングする。
この設定により、サブグループベースのキャリブレーションと層ワイド信頼曲線を用いて評価中のモデル挙動を観察できる。
最終線形プローブは高いAUROCが得られるが、モデルのキャリブレーションは不十分である。
階層的な信頼分析は、ショートカットが異なる深さで現れることを示唆している。
ドレインのような局所的なショートカットと整合したパターンは後続のレイヤに現れ、スキャナ固有のノイズパターンのような拡散ショートカットと整合したパターンは、以前の作業と整合して早く現れる。
最後に,画像の手動解析を行い,NIH-CXR14とPadChestのデータ品質問題を明らかにする。
我々の発見は、SOTAモデルでさえショートカットに弱いままであり、しっかりとした結論を導き出すための高品質でアノテートされたデータセットの必要性を浮き彫りにしている。
コードはGitHubにある。 https://github.com/nikodice4/MedCLIP_shortcuts。
関連論文リスト
- SHOVIR: A Benchmark for Evaluating Vision Shortcut Learning in Radiology Report Generation [1.5782980044380892]
放射線診断におけるビジョン・ランゲージモデルに対する現在の評価プロトコルは、語彙重なりを計測するレポートレベルの指標や、総合的な臨床的正確性に依存している。
本稿では、RRGにおける視覚ショートカット動作を評価するためのベンチマークであるSHOVIRを紹介する。
論文 参考訳(メタデータ) (2026-06-29T12:17:35Z) - MERGETUNE: Continued fine-tuning of vision-language models [77.8627788911249]
微調整視覚言語モデル(VLM)は、しばしば事前訓練された知識を破滅的に忘れてしまう。
ゼロショットモデルに適応した後に事前学習した知識を回復するための新しいパラダイムである連続微調整(CFT)を導入する。
論文 参考訳(メタデータ) (2026-01-15T15:15:53Z) - Hierarchical Self-Supervised Representation Learning for Depression Detection from Speech [51.14752758616364]
音声による抑うつ検出 (SDD) は、従来の臨床評価に代わる有望で非侵襲的な代替手段である。
HAREN-CTCは,マルチタスク学習フレームワーク内でのクロスアテンションを用いて,多層SSL機能を統合した新しいアーキテクチャである。
このモデルはDAIC-WOZで0.81、MODMAで0.82の最先端マクロF1スコアを達成し、両方の評価シナリオで先行手法より優れている。
論文 参考訳(メタデータ) (2025-10-05T09:32:12Z) - Faithful, Interpretable Chest X-ray Diagnosis with Anti-Aliased B-cos Networks [13.303234049048426]
B-cosネットワークは、標準線形層を重み入力アライメント機構で置き換えることで、有望なソリューションを提供する。
標準的なB-cosモデルは、説明地図の深刻なエイリアスに悩まされ、臨床用途には適さない。
FLCとBlurPoolを用いたアンチエイリアス戦略を導入し、説明品質を大幅に改善した。
論文 参考訳(メタデータ) (2025-07-22T16:56:02Z) - Label-Efficient Chest X-ray Diagnosis via Partial CLIP Adaptation [0.0]
本稿では胸部X線診断のためのラベル効率戦略を提案する。
実験ではNIH Chest X-ray14データセットと、トレーニング済みのCLIP ViT-B/32モデルを使用する。
論文 参考訳(メタデータ) (2025-07-09T19:57:12Z) - Interpreting Biomedical VLMs on High-Imbalance Out-of-Distributions: An Insight into BiomedCLIP on Radiology [0.0]
我々は、高度にバランスの取れない、アウト・オブ・ディストリビューションな医療データセットに適用した場合、BiomedCLIPの限界を分析する。
ゼロショット設定下でのモデルは,すべてのラベルを過度に予測し,精度の低下とクラス間分離性に繋がることを示す。
我々は、現実の環境で信頼性と適用性を高めるために、モデルの慎重な適応の必要性を強調します。
論文 参考訳(メタデータ) (2025-06-17T02:59:42Z) - Gradient Attention Map Based Verification of Deep Convolutional Neural Networks with Application to X-ray Image Datasets [1.0208529247755187]
複数の相補的戦略を通じてモデル適合性を評価する包括的検証フレームワークを提案する。
まず、グラディエント・アテンション・マップ(GAM)に基づくアプローチを導入し、グラディエント・アテンション・マップを用いて注意パターンを解析する。
第2に、初期畳み込み特徴写像に検証を拡張し、注意を欠いた構造的ミスアライメントをキャプチャする。
第3に,配布外入力を明示的に拒否するために,新たなガベージクラスを分類モデルに組み込む。
論文 参考訳(メタデータ) (2025-04-29T23:41:37Z) - How Does Pruning Impact Long-Tailed Multi-Label Medical Image
Classifiers? [49.35105290167996]
プルーニングは、ディープニューラルネットワークを圧縮し、全体的なパフォーマンスに大きな影響を及ぼすことなく、メモリ使用量と推論時間を短縮する強力なテクニックとして登場した。
この研究は、プルーニングがモデル行動に与える影響を理解するための第一歩である。
論文 参考訳(メタデータ) (2023-08-17T20:40:30Z) - Rethinking Semi-Supervised Medical Image Segmentation: A
Variance-Reduction Perspective [51.70661197256033]
医用画像セグメンテーションのための階層化グループ理論を用いた半教師付きコントラスト学習フレームワークARCOを提案する。
まず、分散還元推定の概念を用いてARCOを構築することを提案し、特定の分散還元技術が画素/ボクセルレベルのセグメンテーションタスクにおいて特に有用であることを示す。
5つの2D/3D医療データセットと3つのセマンティックセグメンテーションデータセットのラベル設定が異なる8つのベンチマークで、我々のアプローチを実験的に検証する。
論文 参考訳(メタデータ) (2023-02-03T13:50:25Z) - Black-Box Diagnosis and Calibration on GAN Intra-Mode Collapse: A Pilot
Study [116.05514467222544]
現在、GAN(Generative Adversarial Network)は驚くべきリアリズムの画像を生成することができる。
懸念の1つは、最先端のGANの学習分布が依然としてモード崩壊に悩まされているかどうかである。
本稿では,GANのモード内崩壊を診断し,新たなブラックボックス設定でそれを校正する方法について検討する。
論文 参考訳(メタデータ) (2021-07-23T06:03:55Z) - Many-to-One Distribution Learning and K-Nearest Neighbor Smoothing for
Thoracic Disease Identification [83.6017225363714]
ディープラーニングは、病気の識別性能を改善するための最も強力なコンピュータ支援診断技術となった。
胸部X線撮影では、大規模データの注釈付けには専門的なドメイン知識が必要で、時間を要する。
本論文では、単一モデルにおける疾患同定性能を改善するために、複数対1の分布学習(MODL)とK-nearest neighbor smoothing(KNNS)手法を提案する。
論文 参考訳(メタデータ) (2021-02-26T02:29:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。