論文の概要: Knowledge Distillation to Ensemble Global and Interpretable
Prototype-Based Mammogram Classification Models
- arxiv url: http://arxiv.org/abs/2209.12420v1
- Date: Mon, 26 Sep 2022 05:04:15 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-27 16:35:17.135123
- Title: Knowledge Distillation to Ensemble Global and Interpretable
Prototype-Based Mammogram Classification Models
- Title(参考訳): 大域的かつ解釈可能なプロトタイプに基づくマンモグラム分類モデルに対する知識蒸留
- Authors: Chong Wang, Yuanhong Chen, Yuyuan Liu, Yu Tian, Fengbei Liu, Davis J.
McCarthy, Michael Elliott, Helen Frazer, Gustavo Carneiro
- Abstract要約: 本稿では,BRAIxProtoPNet++を提案する。
BRAIxProtoPNet++はSOTAのグローバルモデルやプロトタイプモデルよりも高い分類精度を持つことを示す。
- 参考スコア(独自算出の注目度): 20.16068689434846
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: State-of-the-art (SOTA) deep learning mammogram classifiers, trained with
weakly-labelled images, often rely on global models that produce predictions
with limited interpretability, which is a key barrier to their successful
translation into clinical practice. On the other hand, prototype-based models
improve interpretability by associating predictions with training image
prototypes, but they are less accurate than global models and their prototypes
tend to have poor diversity. We address these two issues with the proposal of
BRAIxProtoPNet++, which adds interpretability to a global model by ensembling
it with a prototype-based model. BRAIxProtoPNet++ distills the knowledge of the
global model when training the prototype-based model with the goal of
increasing the classification accuracy of the ensemble. Moreover, we propose an
approach to increase prototype diversity by guaranteeing that all prototypes
are associated with different training images. Experiments on weakly-labelled
private and public datasets show that BRAIxProtoPNet++ has higher
classification accuracy than SOTA global and prototype-based models. Using
lesion localisation to assess model interpretability, we show BRAIxProtoPNet++
is more effective than other prototype-based models and post-hoc explanation of
global models. Finally, we show that the diversity of the prototypes learned by
BRAIxProtoPNet++ is superior to SOTA prototype-based approaches.
- Abstract(参考訳): State-of-the-art (SOTA) の深層学習マンモグラム分類器は、弱いラベル付き画像で訓練され、しばしば、限定的な解釈可能性を持つ予測を生成するグローバルモデルに依存している。
一方で、プロトタイプベースのモデルは、画像プロトタイプのトレーニングと予測を関連付けることで解釈性を向上させるが、グローバルモデルよりも正確性は低く、プロトタイプは多様性が乏しい傾向がある。
BRAIxProtoPNet++は,プロトタイプベースのモデルで実装することで,グローバルモデルに解釈可能性を追加するものだ。
BRAIxProtoPNet++は、アンサンブルの分類精度を高めることを目的としてプロトタイプベースのモデルをトレーニングする際に、グローバルモデルの知識を蒸留する。
さらに,すべてのプロトタイプが異なるトレーニング画像に関連付けられることを保証し,プロトタイプの多様性を高める手法を提案する。
弱いラベル付きプライベートデータセットとパブリックデータセットの実験は、BRAIxProtoPNet++がSOTAグローバルモデルやプロトタイプベースモデルよりも高い分類精度を持つことを示している。
そこで, BRAIxProtoPNet++が他のプロトタイプベースモデルよりも有効であることを示すとともに, グローバルモデルのポストホックな説明を行う。
最後に,BRAIxProtoPNet++で学習したプロトタイプの多様性が,SOTAのプロトタイプベースアプローチよりも優れていることを示す。
関連論文リスト
- This Looks Better than That: Better Interpretable Models with ProtoPNeXt [14.28283868577614]
原型部品モデルは、コンピュータビジョンのためのブラックボックスディープラーニングモデルに代わる一般的な解釈可能な代替品である。
原型モデルのコンポーネントを統合するための新しいフレームワーク、ProtoPNeXtを作成します。
論文 参考訳(メタデータ) (2024-06-20T18:54:27Z) - Prototype-based Interpretable Breast Cancer Prediction Models: Analysis and Challenges [2.2194851850560715]
乳がん予測におけるPEF-Cの有用性について,マンモグラフィーを用いて検討した。
マンモグラフィーを用いた乳がん予測のプロトタイプベースモデルに関する既存の研究は,プロトタイプベースモデルの分類性能の向上に重点を置いている。
PEF-Cを用いたマンモグラフィーの試作機の品質評価を初めて行った。
論文 参考訳(メタデータ) (2024-03-29T16:08:59Z) - Unsupervised Prototype Adapter for Vision-Language Models [29.516767588241724]
我々はUnsupervised Prototype Adapter (UP-Adapter)と呼ばれる視覚言語モデルのための教師なし微調整アプローチを設計する。
具体的には、アノテーションのないターゲットデータセットに対して、CLIPのテキストイメージ整合機能を活用して、各クラスに対して最も確実なサンプルを自動的に選択する。
微調整後、プロトタイプモデル予測と元のCLIPの予測を残りの接続で組み合わせて下流認識タスクを実行する。
論文 参考訳(メタデータ) (2023-08-22T15:28:49Z) - Dataless Knowledge Fusion by Merging Weights of Language Models [51.8162883997512]
微調整された事前学習言語モデルは、下流のNLPモデルを構築するための主要なパラダイムとなっている。
これは、より優れた単一モデルを生み出すために、個々のモデル間で知識を融合させる障壁を生み出します。
パラメータ空間のモデルをマージするデータレス知識融合法を提案する。
論文 参考訳(メタデータ) (2022-12-19T20:46:43Z) - Tackling Data Heterogeneity in Federated Learning with Class Prototypes [44.746340839025194]
パーソナライズと一般化の両面において,ローカルモデルの性能を改善する新しい手法であるFedNHを提案する。
クラスセマンティクスを注入することで局所モデルを改善する一方で,一様性を付与することでプロトタイプの崩壊に対処できることを示す。
論文 参考訳(メタデータ) (2022-12-06T05:15:38Z) - Investigating Ensemble Methods for Model Robustness Improvement of Text
Classifiers [66.36045164286854]
既存のバイアス機能を分析し、すべてのケースに最適なモデルが存在しないことを実証します。
適切なバイアスモデルを選択することで、より洗練されたモデル設計でベースラインよりもロバスト性が得られる。
論文 参考訳(メタデータ) (2022-10-28T17:52:10Z) - Composing Ensembles of Pre-trained Models via Iterative Consensus [95.10641301155232]
本稿では,異なる事前学習モデルのアンサンブルを構成するための統一的なフレームワークを提案する。
事前学習したモデルを「ジェネレータ」あるいは「スコーラ」として使用し、クローズドループ反復コンセンサス最適化により構成する。
スコアラーのアンサンブルによって達成されたコンセンサスは、シングルスコアラーのフィードバックよりも優れていることを示す。
論文 参考訳(メタデータ) (2022-10-20T18:46:31Z) - Language Models are General-Purpose Interfaces [109.45478241369655]
本稿では,様々な基礎モデルに対する汎用インタフェースとして言語モデルを提案する。
事前訓練されたエンコーダのコレクションは、様々なモダリティ(ビジョンや言語など)を知覚する
インタフェースとモジュールエンコーダを協調的に事前学習するための半因果言語モデリング手法を提案する。
論文 参考訳(メタデータ) (2022-06-13T17:34:22Z) - BMD: A General Class-balanced Multicentric Dynamic Prototype Strategy
for Source-free Domain Adaptation [74.93176783541332]
Source-free Domain Adaptation (SFDA)は、トレーニング済みのソースモデルを、十分にラベル付けされたソースデータにアクセスすることなく、未ラベルのターゲットドメインに適応することを目的としている。
ソースデータの欠如を補うため、既存のほとんどのメソッドは、機能プロトタイプベースの擬似ラベル戦略を導入した。
SFDAタスクのための汎用クラスベース多中心動的プロトタイプ戦略を提案する。
論文 参考訳(メタデータ) (2022-04-06T13:23:02Z) - Improving Label Quality by Jointly Modeling Items and Annotators [68.8204255655161]
雑音アノテータから基底真理ラベルを学習するための完全ベイズ的枠組みを提案する。
我々のフレームワークは、ラベル分布上の生成的ベイズソフトクラスタリングモデルを古典的なDavidとSkeneのジョイントアノテータデータモデルに分解することでスケーラビリティを保証する。
論文 参考訳(メタデータ) (2021-06-20T02:15:20Z) - PSD2 Explainable AI Model for Credit Scoring [0.0]
本研究の目的は、信用リスクモデルの予測精度を向上させるための高度な分析手法の開発と試験である。
このプロジェクトは、銀行関連のデータベースに説明可能な機械学習モデルを適用することに焦点を当てている。
論文 参考訳(メタデータ) (2020-11-20T12:12:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。