論文の概要: Dual-Model Weight Selection and Self-Knowledge Distillation for Medical Image Classification

• arxiv url: http://arxiv.org/abs/2508.20461v1
• Date: Thu, 28 Aug 2025 06:15:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-29 18:12:02.071316
• Title: Dual-Model Weight Selection and Self-Knowledge Distillation for Medical Image Classification
• Title（参考訳）: 医用画像分類のための二重モデル重み選択と自己知識蒸留
• Authors: Ayaka Tsutsumi, Guang Li, Ren Togo, Takahiro Ogawa, Satoshi Kondo, Miki Haseyama,
• Abstract要約: 自己知識蒸留(SKD)と二重モデル重み選択を統合した新しい医用画像分類法を提案する。 提案手法は,コンパクトモデルにおいて重要な情報の保持に失敗する従来の手法の限界を克服する。
• 参考スコア（独自算出の注目度）: 47.17249726328169
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We propose a novel medical image classification method that integrates dual-model weight selection with self-knowledge distillation (SKD). In real-world medical settings, deploying large-scale models is often limited by computational resource constraints, which pose significant challenges for their practical implementation. Thus, developing lightweight models that achieve comparable performance to large-scale models while maintaining computational efficiency is crucial. To address this, we employ a dual-model weight selection strategy that initializes two lightweight models with weights derived from a large pretrained model, enabling effective knowledge transfer. Next, SKD is applied to these selected models, allowing the use of a broad range of initial weight configurations without imposing additional excessive computational cost, followed by fine-tuning for the target classification tasks. By combining dual-model weight selection with self-knowledge distillation, our method overcomes the limitations of conventional approaches, which often fail to retain critical information in compact models. Extensive experiments on publicly available datasets-chest X-ray images, lung computed tomography scans, and brain magnetic resonance imaging scans-demonstrate the superior performance and robustness of our approach compared to existing methods.
• Abstract（参考訳）: 本稿では,2モデル重み選択と自己知識蒸留(SKD)を統合した新しい医用画像分類法を提案する。 実世界の医療環境では、大規模モデルのデプロイは計算資源の制約によって制限されることが多い。 したがって,計算効率を保ちながら大規模モデルに匹敵する性能を実現する軽量モデルの開発が重要である。 これを解決するために,2つの軽量モデルに事前学習モデルから導出した重みを初期化し,効果的な知識伝達を可能にする2モデル重み選択方式を用いる。 次に、SKDはこれらの選択されたモデルに適用され、余分な計算コストを伴わずに幅広い初期重量設定を使用でき、続いてターゲット分類タスクの微調整を行う。 二重モデル重み選択と自己知識蒸留を組み合わせることで,従来の手法の限界を克服する。 一般に入手可能なデータセット・チェストX線画像,肺CT,脳磁気共鳴画像の広範囲にわたる実験は,既存の方法と比較して,我々のアプローチの優れた性能と堅牢性を実証している。

関連論文リスト

• Embeddings are all you need! Achieving High Performance Medical Image Classification through Training-Free Embedding Analysis [0.0]
  医療画像のための人工知能(AI)と機械学習(ML)モデルの開発は通常、大規模なデータセットに対する広範なトレーニングとテストを含む。 従来の訓練手順を埋め込み型アプローチで置き換える可能性について検討した。
  論文  参考訳（メタデータ） (2024-12-12T16:59:37Z)
• CC-DCNet: Dynamic Convolutional Neural Network with Contrastive Constraints for Identifying Lung Cancer Subtypes on Multi-modality Images [13.655407979403945]
  肺がんサブタイプを多次元・多モード画像で正確に分類するための新しい深層学習ネットワークを提案する。 提案モデルの強みは, 対のCT-病理画像セットと独立のCT画像セットの両方を動的に処理できることにある。 また,ネットワーク学習を通じてモダリティ関係を定量的にマッピングするコントラスト制約モジュールも開発した。
  論文  参考訳（メタデータ） (2024-07-18T01:42:00Z)
• Uncovering the effects of model initialization on deep model generalization: A study with adult and pediatric Chest X-ray images [5.454938535500864]
  ImageNet-pretrained weights showed superior generalizability than randomly opponents, against some findings for non-medical images。 これらのモデルの重量レベルのアンサンブルは、個々のモデルと比較してテスト中にかなり高いリコール(p 0.05)を示す。
  論文  参考訳（メタデータ） (2023-09-20T13:42:48Z)
• Learnable Weight Initialization for Volumetric Medical Image Segmentation [66.3030435676252]
  本稿では,学習可能な重みに基づくハイブリッド医療画像セグメンテーション手法を提案する。 我々のアプローチはどんなハイブリッドモデルにも簡単に統合でき、外部のトレーニングデータを必要としない。 多臓器・肺がんセグメンテーションタスクの実験は、我々のアプローチの有効性を実証している。
  論文  参考訳（メタデータ） (2023-06-15T17:55:05Z)
• Knowledge Distillation for Adaptive MRI Prostate Segmentation Based on Limit-Trained Multi-Teacher Models [4.711401719735324]
  圧縮法と加速技術として知識蒸留(KD)が提案されている。 KDは、負担の多いモデルから軽量モデルに知識を移行できる効率的な学習戦略である。 本研究では,KDに基づく前立腺MRIセグメンテーションの深部モデルを構築し,Kellback-Leiblerの発散,Lovasz,Diceの損失と特徴量に基づく蒸留を組み合わせる。
  論文  参考訳（メタデータ） (2023-03-16T17:15:08Z)
• SSD-KD: A Self-supervised Diverse Knowledge Distillation Method for Lightweight Skin Lesion Classification Using Dermoscopic Images [62.60956024215873]
  皮膚がんは最も一般的な悪性腫瘍の1つであり、人口に影響を与え、世界中で経済的な重荷を負っている。 皮膚がん検出のほとんどの研究は、ポータブルデバイス上での計算資源の制限を考慮せずに、高い予測精度を追求している。 本研究は,皮膚疾患分類のための汎用的なKDフレームワークに多様な知識を統一する,SSD-KDと呼ばれる新しい手法を提案する。
  論文  参考訳（メタデータ） (2022-03-22T06:54:29Z)
• A multi-stage machine learning model on diagnosis of esophageal manometry [50.591267188664666]
  このフレームワークには、飲み込みレベルにおけるディープラーニングモデルと、学習レベルにおける機能ベースの機械学習モデルが含まれている。 これは、生のマルチスワローデータからHRM研究のCC診断を自動的に予測する最初の人工知能モデルである。
  論文  参考訳（メタデータ） (2021-06-25T20:09:23Z)
• Many-to-One Distribution Learning and K-Nearest Neighbor Smoothing for Thoracic Disease Identification [83.6017225363714]
  ディープラーニングは、病気の識別性能を改善するための最も強力なコンピュータ支援診断技術となった。 胸部X線撮影では、大規模データの注釈付けには専門的なドメイン知識が必要で、時間を要する。 本論文では、単一モデルにおける疾患同定性能を改善するために、複数対1の分布学習(MODL)とK-nearest neighbor smoothing(KNNS)手法を提案する。
  論文  参考訳（メタデータ） (2021-02-26T02:29:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。