論文の概要: Shared Semantic Codebook Distillation for Unpaired Cross-Modal Medical Classification
- arxiv url: http://arxiv.org/abs/2607.27357v1
- Date: Wed, 29 Jul 2026 18:10:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-31 21:37:00.30264
- Title: Shared Semantic Codebook Distillation for Unpaired Cross-Modal Medical Classification
- Title(参考訳): クロスモーダルな医療分類のための共有セマンティックコードブック蒸留法
- Abstract要約: クロスモーダルな知識蒸留は、診断知識を強力な教師のモダリティからより安価でデプロイ可能な学生のモダリティに移行することができる。
しかし、医用画像解析では2つのモダリティが欠落することが多い。
本稿では,教師と生徒の表現を共有コードブックで比較する共有セマンティックコードブック蒸留(SSCD)を提案する。
- 参考スコア(独自算出の注目度): 2.2539165333774647
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Cross-modal knowledge distillation can transfer diagnostic knowledge from a strong but costly teacher modality to a cheaper and more deployable student modality. In medical image analysis, however, the two modalities are often unpaired: they are collected from different patient cohorts and occupy geometrically incompatible feature spaces. This makes instance-level distillation invalid and direct feature matching unreliable. To address these challenges, we propose Shared Semantic Codebook Distillation (SSCD), which compares teacher and student representations through a shared discrete codebook. Each image is represented as a distribution over a common, modality-agnostic vocabulary, and knowledge is transferred by aligning these distributions across modalities, both globally and class-conditionally, without requiring paired samples or directly comparable raw features. The codebook is evolved online by exponential moving average and kept diverse through entropy regularization and dead-code restart. At inference, all teacher-side and codebook modules are discarded, leaving only the student encoder and classifier. On two heterogeneous unpaired settings, OCT-to-fundus retinal disease classification and CT-to-chest-X-ray pneumonia classification, SSCD improves the student from 64.5 to 70.2 macro-F1 and from 73.8 to 76.3 macro-F1, respectively, outperforming all evaluated distillation baselines on both settings. Code and pretrained models are available at https://github.com/DillanImans/SSCD-unpaired-distillation
- Abstract(参考訳): クロスモーダルな知識蒸留は、診断知識を強力な教師のモダリティからより安価でデプロイ可能な学生のモダリティに移行することができる。
しかし、医用画像解析では、2つのモダリティは、異なる患者コホートから収集され、幾何学的に互換性のない特徴空間を占有する。
これにより、インスタンスレベルの蒸留が無効になり、直接的な特徴マッチングが信頼できない。
これらの課題に対処するために,教師と生徒の表現を個別のコードブックで比較するSSCD(Shared Semantic Codebook Distillation)を提案する。
各画像は共通のモダリティに依存しない語彙上の分布として表現され、これらの分布は、ペア化されたサンプルや直接に比較された生の特徴を必要とせず、グローバルおよびクラス条件の両方で、モダリティ間で整列することで、知識が伝達される。
コードブックは指数的な移動平均によってオンラインで進化し、エントロピーの正規化とデッドコードの再起動を通じて多様である。
推論では、教師側とコードブックモジュールはすべて破棄され、生徒エンコーダと分類器のみが残る。
OCT-to-fundus 網膜疾患分類とCT-to-chest-X-ray 肺炎分類の2つの不均一な設定において、SSCDは学生を64.5から70.2マクロF1に改善し、73.8から76.3マクロF1に改善し、両方の設定で評価された全ての蒸留基準を上回っている。
コードおよび事前訓練されたモデルはhttps://github.com/DillanImans/SSCD-unpaired-distillationで利用可能である。
関連論文リスト
- Flow Matching with Optimized Subclass Priors for Medical Image Augmentation [10.504309161945065]
本稿では,2段階の事前情報を提供するオフライン戦略を提案する。
それぞれの粗いラベルをガウス混合モデリングによりコヒーレントなサブモーメントに分割する。
サブモードごとの開始分布を再集中し、再スケールするサブクラス条件のソース分布を学習する。
論文 参考訳(メタデータ) (2026-05-15T12:05:15Z) - PDD: Manifold-Prior Diverse Distillation for Medical Anomaly Detection [34.22949331554283]
PDD(Manifold-Prior Diverse Distillation)は、双対教師の先行を共有高次元多様体に統一するフレームワークである。
複数の医療データセットの実験では、PDDが既存の最先端の手法を大幅に上回っていることが示されている。
論文 参考訳(メタデータ) (2026-03-07T10:25:39Z) - REACT-KD: Region-Aware Cross-modal Topological Knowledge Distillation for Interpretable Medical Image Classification [2.384306241677947]
我々は,高忠実度マルチモーダルソースから軽量CTベースの学生モデルへ監督を伝達するフレームワークREACT-KDを提案する。
一方の枝は二重軌跡PET/CTで構造-機能関係を捉え,他方の枝は低用量CTを用いて線量認識する。
このフレームワークは内部のPET/CTコホートで平均93.5%のAUCを達成し、外部CT試験における線量低下のレベルによって76.6%から81.5%のAUCを維持した。
論文 参考訳(メタデータ) (2025-08-04T06:29:34Z) - Overcoming Uncertain Incompleteness for Robust Multimodal Sequential Diagnosis Prediction via Curriculum Data Erasing Guided Knowledge Distillation [0.0]
NECHO v2, NECHO v2は, 欠席頻度が不確実な患者診断の予測精度を高めるために設計された新しいフレームワークである。
まず、不完全なデータの下で、不完全なモダリティ表現の優位性を扱うために、コード中心の診断で設計されたNECHOを修正する。
第2に,修正NECHOを教師と学生の両方に活用して,体系的な知識蒸留を開発する。
論文 参考訳(メタデータ) (2024-07-28T17:14:27Z) - FedMLP: Federated Multi-Label Medical Image Classification under Task Heterogeneity [30.49607763632271]
クロスサイロ・フェデレーション・ラーニング(FL)は、分散化された組織がデータのプライバシを保持しながら、協力的にモデルをトレーニングすることを可能にする。
擬似ラベルタグ付けとグローバル知識学習という2つの側面から欠落したクラスに対処する2段階のFedMLPを提案する。
公的に利用可能な2つの医療データセットの実験は、FedMLPの最先端の半教師付きおよびノイズの多いラベル学習アプローチに対する優位性を検証する。
論文 参考訳(メタデータ) (2024-06-27T08:36:43Z) - Learnable Distribution Calibration for Few-Shot Class-Incremental
Learning [122.2241120474278]
FSCIL(Few-shot class-incremental Learning)は、古いクラス分布を記憶し、少数のトレーニングサンプルから新しいクラス分布を推定するという課題に直面している。
本稿では,これら2つの課題を統一フレームワークを用いて体系的に解決することを目的とした,学習可能な分布校正手法を提案する。
論文 参考訳(メタデータ) (2022-10-01T09:40:26Z) - PCCT: Progressive Class-Center Triplet Loss for Imbalanced Medical Image
Classification [55.703445291264]
不均衡トレーニングデータは、医用画像分類において重要な課題である。
クラス不均衡問題を軽減するために,PCCT(Progressive Class-Center Triplet)フレームワークを提案する。
PCCTフレームワークは、不均衡な訓練画像を用いた医用画像分類に効果的に機能する。
論文 参考訳(メタデータ) (2022-07-11T11:43:51Z) - FedMed-ATL: Misaligned Unpaired Brain Image Synthesis via Affine
Transform Loss [58.58979566599889]
脳画像合成のための新しい自己教師型学習(FedMed)を提案する。
アフィン変換損失(ATL)は、プライバシー法に違反することなく、ひどく歪んだ画像を使用するように定式化された。
提案手法は, 極めて不整合かつ不整合なデータ設定下での合成結果の品質の両方において, 高度な性能を示す。
論文 参考訳(メタデータ) (2022-01-29T13:45:39Z) - Mitigating the Mutual Error Amplification for Semi-Supervised Object
Detection [92.52505195585925]
擬似ラベルの修正機構を導入し,相互誤りの増幅を緩和するクロス・インストラクション(CT)手法を提案する。
他の検出器からの予測を直接擬似ラベルとして扱う既存の相互指導法とは対照的に,我々はラベル修正モジュール(LRM)を提案する。
論文 参考訳(メタデータ) (2022-01-26T03:34:57Z) - Cross-Site Severity Assessment of COVID-19 from CT Images via Domain
Adaptation [64.59521853145368]
CT画像によるコロナウイルス病2019(COVID-19)の早期かつ正確な重症度評価は,集中治療単位のイベント推定に有効である。
ラベル付きデータを拡張し、分類モデルの一般化能力を向上させるためには、複数のサイトからデータを集約する必要がある。
この課題は、軽度の感染症と重度の感染症の集団不均衡、部位間のドメイン分布の相違、不均一な特徴の存在など、いくつかの課題に直面する。
論文 参考訳(メタデータ) (2021-09-08T07:56:51Z) - Categorical Relation-Preserving Contrastive Knowledge Distillation for
Medical Image Classification [75.27973258196934]
そこで本研究では,一般的な平均教師モデルであるCRCKD(Categorical Relation-Reserving Contrastive Knowledge Distillation)アルゴリズムを提案する。
この正規化により、学生モデルの特徴分布はクラス内類似度が高く、クラス間分散を示す。
CCDとCRPの貢献により、我々のCRCKDアルゴリズムはより包括的に関係知識を蒸留することができる。
論文 参考訳(メタデータ) (2021-07-07T13:56:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。