論文の概要: Understanding the Impact of Model Pruning on Long-Tail Forgetting and Explanation Reliability in Medical Imaging
- arxiv url: http://arxiv.org/abs/2609.07803v1
- Date: Mon, 07 Sep 2026 17:44:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-10 19:44:08.494198
- Title: Understanding the Impact of Model Pruning on Long-Tail Forgetting and Explanation Reliability in Medical Imaging
- Title（参考訳）: 医用画像におけるモデルプルーニングが長期予測および説明信頼性に及ぼす影響の理解
- Abstract要約: 本研究では,モデルプルーニングがディープニューラルネットワークの誤りや説明信頼性に与える影響について検討する。
結果から, モデル圧縮は, 集合的性能以上の評価をすべきであることが示唆された。
- 参考スコア（独自算出の注目度）: 6.220296131270666
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Model pruning is widely used to compress deep neural networks, reducing memory and computational requirements with minimal impact on aggregate performance. However, its effect on model behavior remains poorly understood, particularly for long-tailed medical datasets where rare but clinically important conditions are underrepresented. Furthermore, it remains unclear whether pruned models preserve reliable explanations of their predictions. To address this gap, we present a systematic study of long-tail forgetting and explanation reliability under model pruning. Across two long-tailed medical imaging datasets, two CNN architectures, four pruning methods, and sparsity levels up to 95\%, we evaluate predictive performance, explanation stability, and explanation faithfulness. Our results show that predictive performance exhibits a strong frequency-dependent trend, with lower-frequency classes generally experiencing earlier and larger degradation than higher-frequency classes. In contrast, explanation stability and faithfulness are influenced primarily by the pruning strategy, with gradient-informed methods preserving explanation reliability more effectively under aggressive compression. Qualitative and mechanistic analyses further indicate that explanation degradation is primarily associated with the collapse of class-discriminative gradients rather than the disappearance of feature activations. These findings suggest that model compression should be evaluated beyond aggregate performance. Incorporating class-aware and explanation-aware evaluation reveals failure modes that would otherwise remain hidden, while moderate sparsity levels provide a practical balance between compression, predictive performance, and explanation reliability.
- Abstract（参考訳）: モデルプルーニングは、ディープニューラルネットワークを圧縮し、集約性能に最小限の影響でメモリと計算要求を減らすために広く使用されている。
しかしながら、モデル行動に対するその影響は、特に稀だが臨床的に重要な病態が不足している長い尾の医療データセットでは、よく理解されていない。
さらに, 刈り取られたモデルが, 予測の信頼性を保っているかは定かではない。
このギャップに対処するため,モデル刈り込み時の長い尾の忘れと説明信頼性について系統的研究を行った。
2つの長い尾を持つ医用画像データセット,2つのCNNアーキテクチャ,4つのプルーニング手法,および疎度レベルを95%まで評価し,予測性能,説明安定性,説明忠実度を評価した。
その結果, 予測性能は高い周波数依存傾向を示し, 低周波数クラスは高周波数クラスよりも早く, より大きい劣化を経験することが示唆された。
対照的に、説明の安定性と忠実さは、主にプルーニング戦略の影響を受けており、アグレッシブ圧縮下で説明の信頼性をより効果的に維持する勾配インフォームド手法である。
定性的および力学的な分析は、説明劣化は、特徴の活性化の消失よりも、主に分類的勾配の崩壊と関連していることを示している。
これらの結果から, モデル圧縮は, 集合的性能を超えて評価されるべきであることが示唆された。
クラスアウェアと説明アウェアを組み込んだ評価では、他の方法では隠されるであろう障害モードが示され、一方、適度なスパーシリティレベルは、圧縮、予測性能、説明信頼性の実践的なバランスを提供する。
関連論文リスト
- A Multi-Dimensional Evaluation of Explainability in Media Bias Detection [10.798797986346914]
本稿では,Bias s By Expertsデータセットを用いたエンコーダによるメディアバイアス検出における説明可能性の多次元評価を行う。
我々は,BERTとRoBERTaを,予測性能,説明妥当性,機械的忠実性の3つの相補的軸に沿った分類器として検討した。
本研究は, 予測性能, 帰属確率, 機械的忠実度が, モデル行動の異なる側面を特徴付けることを示唆している。
論文 参考訳（メタデータ） (2026-07-22T09:29:49Z) - Explanation-Aware Learning for Enhanced Interpretability in Biomedical Imaging [0.0]
ポストホックな説明法は、サリエンシマップの形でモデル決定を可視化するために広く用いられている。
本稿では,説明の喪失設計と監督力の違いが,説明の空間的忠実度と予測性能に与える影響について分析する。
論文 参考訳（メタデータ） (2026-05-11T06:27:55Z) - Improving Network Interpretability via Explanation Consistency Evaluation [56.14036428778861]
本稿では、より説明可能なアクティベーションヒートマップを取得し、同時にモデル性能を向上させるフレームワークを提案する。
具体的には、モデル学習において、トレーニングサンプルを適応的に重み付けするために、新しいメトリクス、すなわち説明整合性を導入する。
そこで,本フレームワークは,これらのトレーニングサンプルに深い注意を払ってモデル学習を促進する。
論文 参考訳（メタデータ） (2024-08-08T17:20:08Z) - Identifiable Latent Neural Causal Models [82.14087963690561]
因果表現学習は、低レベルの観測データから潜伏した高レベルの因果表現を明らかにすることを目指している。
因果表現の識別可能性に寄与する分布シフトのタイプを決定する。
本稿では,本研究の成果を実用的なアルゴリズムに翻訳し,信頼性の高い潜在因果表現の取得を可能にする。
論文 参考訳（メタデータ） (2024-03-23T04:13:55Z) - Investigating the Impact of Model Instability on Explanations and Uncertainty [43.254616360807496]
テキスト入力における不確かさを推測時に雑音を導入することでシミュレートする。
高い不確実性は必ずしも説明可能性の低さを暗示しない。
このことは、ノイズ増強モデルが不確実性のあるトークンを特定するのに優れていることを示唆している。
論文 参考訳（メタデータ） (2024-02-20T13:41:21Z) - On the Dynamics Under the Unhinged Loss and Beyond [104.49565602940699]
我々は、閉形式力学を解析するための数学的機会を提供する、簡潔な損失関数であるアンヒンジド・ロスを導入する。
アンヒンジされた損失は、時間変化学習率や特徴正規化など、より実践的なテクニックを検討することができる。
論文 参考訳（メタデータ） (2023-12-13T02:11:07Z) - Understanding Robust Overfitting from the Feature Generalization Perspective [61.770805867606796]
逆行訓練(AT)は、逆行摂動を自然データに組み込むことで、堅牢なニューラルネットワークを構築する。
これはロバストオーバーフィッティング(RO)の問題に悩まされ、モデルのロバスト性を著しく損なう。
本稿では,新しい特徴一般化の観点からROを考察する。
論文 参考訳（メタデータ） (2023-10-01T07:57:03Z) - Bias in Pruned Vision Models: In-Depth Analysis and Countermeasures [93.17009514112702]
ニューラルネットワークのパラメータのかなりの部分集合をゼロに設定するプルーニングは、モデル圧縮の最も一般的な方法の1つである。
この現象の既存の証拠にもかかわらず、ニューラルネットワークのプルーニングと誘導バイアスの関係はよく理解されていない。
論文 参考訳（メタデータ） (2023-04-25T07:42:06Z) - Dual Decomposition of Convex Optimization Layers for Consistent
Attention in Medical Images [12.844658658362325]
医学における機械学習モデルの統合における主要な関心事は、推論を解釈する能力である。
共起層間の一貫した解釈を行う多層アテンション機構を提案する。
提案手法は,弱い注釈付き医用画像データを活用し,モデルの予測に対する完全かつ忠実な説明を提供する。
論文 参考訳（メタデータ） (2022-06-06T17:38:00Z) - SurvCaus : Representation Balancing for Survival Causal Inference [3.4161707164978137]
多くの病理学では、関心の結果は(おそらく検閲された)生存時間である。
本稿では,生存環境における現実的推論に適用可能な表現バランスフレームワークの理論的保証を提案する。
論文 参考訳（メタデータ） (2022-03-29T15:33:55Z) - On the Robustness of Pretraining and Self-Supervision for a Deep
Learning-based Analysis of Diabetic Retinopathy [70.71457102672545]
糖尿病網膜症における訓練方法の違いによる影響を比較検討した。
本稿では,定量的性能,学習した特徴表現の統計,解釈可能性,画像歪みに対する頑健性など,さまざまな側面について検討する。
以上の結果から,ImageNet事前学習モデルでは,画像歪みに対する性能,一般化,堅牢性が著しく向上していることが示唆された。
論文 参考訳（メタデータ） (2021-06-25T08:32:45Z) - Gradient Starvation: A Learning Proclivity in Neural Networks [97.02382916372594]
グラディエント・スターベーションは、タスクに関連する機能のサブセットのみをキャプチャすることで、クロスエントロピー損失を最小化するときに発生する。
この研究は、ニューラルネットワークにおけるそのような特徴不均衡の出現に関する理論的説明を提供する。
論文 参考訳（メタデータ） (2020-11-18T18:52:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。