論文の概要: In-hoc Concept Representations to Regularise Deep Learning in Medical Imaging
- arxiv url: http://arxiv.org/abs/2508.13880v1
- Date: Tue, 19 Aug 2025 14:43:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-08-20 15:36:31.961144
- Title: In-hoc Concept Representations to Regularise Deep Learning in Medical Imaging
- Title(参考訳): 医用画像におけるディープラーニングの正規化のためのインホック概念表現
- Authors: Valentina Corbetta, Floris Six Dijkstra, Regina Beets-Tan, Hoel Kervadec, Kristoffer Wickstrøm, Wilson Silva,
- Abstract要約: 医用画像における深層学習モデルは, 配電性能は高いが, 分布シフト下での一般化に苦慮することが多い。
LCRRegはLatent Concept Representationsを利用した新しい正規化手法である。
LCRRegは, 人工的, 実世界の医療タスクにまたがって評価する。
- 参考スコア(独自算出の注目度): 2.827997966861253
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep learning models in medical imaging often achieve strong in-distribution performance but struggle to generalise under distribution shifts, frequently relying on spurious correlations instead of clinically meaningful features. We introduce LCRReg, a novel regularisation approach that leverages Latent Concept Representations (LCRs) (e.g., Concept Activation Vectors (CAVs)) to guide models toward semantically grounded representations. LCRReg requires no concept labels in the main training set and instead uses a small auxiliary dataset to synthesise high-quality, disentangled concept examples. We extract LCRs for predefined relevant features, and incorporate a regularisation term that guides a Convolutional Neural Network (CNN) to activate within latent subspaces associated with those concepts. We evaluate LCRReg across synthetic and real-world medical tasks. On a controlled toy dataset, it significantly improves robustness to injected spurious correlations and remains effective even in multi-concept and multiclass settings. On the diabetic retinopathy binary classification task, LCRReg enhances performance under both synthetic spurious perturbations and out-of-distribution (OOD) generalisation. Compared to baselines, including multitask learning, linear probing, and post-hoc concept-based models, LCRReg offers a lightweight, architecture-agnostic strategy for improving model robustness without requiring dense concept supervision. Code is available at the following link: https://github.com/Trustworthy-AI-UU-NKI/lcr\_regularization
- Abstract(参考訳): 医用画像における深層学習モデルは、強い分布特性を達成するが、分布シフトの下で一般化に苦慮し、しばしば臨床的に意味のある特徴ではなく、素早い相関に頼っている。
LCRRegはLCR(Latent Concept Representation)(例えばConcept Activation Vectors(CAV))を活用して,意味的基底表現に向けてモデルを誘導する新しい正規化手法である。
LCRRegは、メインのトレーニングセットに概念ラベルを必要とせず、代わりに、小さな補助データセットを使用して高品質で非絡み合った概念の例を合成する。
我々は、予め定義された関連する特徴に対してLCRを抽出し、それらの概念に関連する潜在部分空間内で活性化するために、畳み込みニューラルネットワーク(CNN)を誘導する正規化項を組み込む。
LCRRegは, 人工的, 実世界の医療タスクにまたがって評価する。
制御されたおもちゃのデータセット上では、スプリアス相関の注入に対する堅牢性を大幅に改善し、マルチコンセプトやマルチクラス設定においても有効である。
糖尿病性網膜症2次分類タスクでは、LCRRegは合成摂動とアウト・オブ・ディストリビューション(OOD)の一般化の両方でパフォーマンスを向上させる。
マルチタスク学習、線形探索、ポストホックな概念ベースモデルを含むベースラインと比較して、LCRRegは、密集した概念監督を必要とせず、モデルロバスト性を改善するための軽量でアーキテクチャに依存しない戦略を提供する。
https://github.com/Trustworthy-AI-UU-NKI/lcr\_regularization
関連論文リスト
- Interpretable Few-Shot Image Classification via Prototypical Concept-Guided Mixture of LoRA Experts [79.18608192761512]
自己説明可能なモデル(SEM)は、視覚認識プロセスをより解釈可能なものにするために、プロトタイプ概念学習(PCL)に依存している。
パラメトリック不均衡と表現の不整合という2つの重要な課題を緩和するFew-Shotプロトタイプ概念分類フレームワークを提案する。
我々のアプローチは、既存のSEMを顕著な差で常に上回っており、5-way 5-shot分類では4.2%-8.7%の相対的な利得がある。
論文 参考訳(メタデータ) (2025-06-05T06:39:43Z) - Theoretical Foundations of the Deep Copula Classifier: A Generative Approach to Modeling Dependent Features [0.0]
ディープコピュラ(Deep Copula、DCC)は、各特徴の辺縁分布の学習を、その結合依存構造をモデル化することから分離する生成モデルである。
軽量ニューラルネットワークは、機能相互作用を柔軟かつ適応的にキャプチャするために使用される。
DCCは依存性を意識した分類のための数学的基盤と解釈可能なフレームワークを提供する。
論文 参考訳(メタデータ) (2025-05-29T02:07:26Z) - Lattice-Based Pruning in Recurrent Neural Networks via Poset Modeling [0.0]
リカレントニューラルネットワーク(RNN)はシーケンスモデリングタスクの中心であるが、その高い計算複雑性はスケーラビリティとリアルタイムデプロイメントの課題を引き起こす。
本稿では,RNNを部分的に順序付けられた集合(命題)としてモデル化し,対応する依存格子を構成する新しいフレームワークを提案する。
既約ニューロンを同定することにより、格子ベースのプルーニングアルゴリズムは、冗長なニューロンを除去しながら、重要な接続を選択的に保持する。
論文 参考訳(メタデータ) (2025-02-23T10:11:38Z) - Generalization and Estimation Error Bounds for Model-based Neural
Networks [78.88759757988761]
スパースリカバリのためのモデルベースネットワークの一般化能力は、通常のReLUネットワークよりも優れていることを示す。
我々は,高一般化を保証したモデルベースネットワークの構築を可能にする実用的な設計規則を導出する。
論文 参考訳(メタデータ) (2023-04-19T16:39:44Z) - Iterative Soft Shrinkage Learning for Efficient Image Super-Resolution [91.3781512926942]
画像超解像(SR)は、CNNからトランスフォーマーアーキテクチャへの広範なニューラルネットワーク設計を目撃している。
本研究は,市販のネットワーク設計を生かし,基礎となる計算オーバーヘッドを低減するため,超高解像度イテレーションにおけるネットワークプルーニングの可能性について検討する。
本研究では, ランダムネットワークのスパース構造を最適化し, 重要でない重みを小さめに微調整することにより, 反復型軟収縮率(ISS-P)法を提案する。
論文 参考訳(メタデータ) (2023-03-16T21:06:13Z) - Unifying Synergies between Self-supervised Learning and Dynamic
Computation [53.66628188936682]
SSLとDCのパラダイム間の相互作用に関する新しい視点を提示する。
SSL設定において、スクラッチから高密度かつゲートされたサブネットワークを同時に学習することは可能であることを示す。
密集エンコーダとゲートエンコーダの事前学習における共進化は、良好な精度と効率のトレードオフをもたらす。
論文 参考訳(メタデータ) (2023-01-22T17:12:58Z) - Faster Convergence in Deep-Predictive-Coding Networks to Learn Deeper
Representations [12.716429755564821]
DPCN(Deep-Predictive-Coding Network)は、フィードフォワードとフィードバック接続に依存する階層的な生成モデルである。
DPCNの重要な要素は、動的モデルのスパース状態を明らかにする前向きの推論手順である。
我々は,加速近位勾配に基づく実験的および理論的収束性の向上した最適化戦略を提案する。
論文 参考訳(メタデータ) (2021-01-18T02:30:13Z) - Contextual Classification Using Self-Supervised Auxiliary Models for
Deep Neural Networks [6.585049648605185]
自己監督型自動学習(SSAL)モデルの概念を紹介します。
SSALの目的は、元の教師付き分類タスクから派生した1つ以上の追加目標によって実現される。
SSALモデルは、より解釈しやすい構造化された予測を提供しながら、常に最先端を上回ります。
論文 参考訳(メタデータ) (2021-01-07T18:41:16Z) - Continual Learning in Recurrent Neural Networks [67.05499844830231]
リカレントニューラルネットワーク(RNN)を用いた逐次データ処理における連続学習手法の有効性を評価する。
RNNに弾性重み強化などの重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重
そこで本研究では,重み付け手法の性能が処理シーケンスの長さに直接的な影響を受けず,むしろ高動作メモリ要求の影響を受けていることを示す。
論文 参考訳(メタデータ) (2020-06-22T10:05:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。