論文の概要: What Makes High-Magnification Knowledge Transferable? A Study of Cross-Resolution Distillation in Whole-Slide Imaging
- arxiv url: http://arxiv.org/abs/2609.36407v2
- Date: Thu, 01 Oct 2026 16:23:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 01:19:23.516074
- Title: What Makes High-Magnification Knowledge Transferable? A Study of Cross-Resolution Distillation in Whole-Slide Imaging
- Title(参考訳): 高分解能知識の伝達はなぜ可能か? : 全スライディングイメージングにおけるクロスリゾリューション蒸留法の検討
- Abstract要約: クロスレゾリューション・ナレッジ蒸留は, 高い磁化表現を伝達することにより, 低磁化全スライド解析を改善することを目的としている。
教師のアクセス、表現損失、モデル過剰の分解に基づく分析法を開発した。
- 参考スコア(独自算出の注目度): 8.504404805563937
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Cross-resolution knowledge distillation aims to improve low-magnification whole- slide analysis by transferring high-magnification representations, yet the conditions for useful transfer remain unclear. We develop a decomposition-based analysis of teacher access, representation loss, and model excess, motivating three questions: whether (a) teacher targets help the task, (b) low-magnification students can predict them, and (c) slide models benefit from those predictions. We investigate them through controlled experiments across ten pathology cohorts spanning classifi- cation, grading, and survival prediction. In the main comparison, providing teacher regional means alongside native low-magnification features improves downstream performance in all ten cohorts. Direct prediction achieves lower reconstruction error than residual prediction, yet the predicted features underrepresent variation in the teacher targets. Moreover, better reconstruction does not consistently improve downstream scores, and retaining native features changes performance even when the predicted teacher features are held fixed. Together, these findings expose a gap between reconstructing teacher representations and realizing their downstream value. They challenge the sufficiency of reconstruction error as a measure of cross-resolution transfer and provide a diagnostic framework for examining where that transfer breaks down. Future distillation designs must account for both what students can predict and how slide models use those predictions.
- Abstract(参考訳): クロスレゾリューション・ナレッジ蒸留は, 高い磁化表現を伝達することで, 低磁化全スライド解析を改善することを目的としている。
教師のアクセス、表現損失、モデル過剰の分解に基づく分析を開発し、3つの質問を動機づける。
(a)教師の目標がタスクを助けます。
(b)低画像化の学生はそれらを予測でき、
(c)スライドモデルはこれらの予測の恩恵を受ける。
本研究は,10種類の病的コホートに対するコントロール実験により,クラスifi-cation,grading,および生存予測について検討した。
主な比較では、教師の地域的手段とネイティブな低磁化機能を提供することで、全10コホートにおける下流のパフォーマンスが向上する。
直接予測は残差予測よりも再現誤差が低いが,教師の目標における特徴の差は小さい。
さらに、より良い再構築は、下流のスコアを一貫して改善するものではなく、予測された教師の特徴が固定された場合でも、ネイティブな特徴を維持することでパフォーマンスが向上する。
これらの結果から,教師表現の再構築と下流の価値観のギャップが明らかになった。
彼らは、クロスレゾリューション転送の尺度として再構成誤差の十分性に挑戦し、その転送がどこで故障するかを調べるための診断フレームワークを提供する。
将来の蒸留設計は、学生が予測できることと、スライドモデルがどのように予測を使うかの両方を考慮しなければならない。
関連論文リスト
- On-Policy Visual Evidence Distillation [29.145226066460193]
本稿では,視覚エージェントのオンライン蒸留法であるRe Reflection on Visual Evidence (ReVuE)を紹介する。
ReVuEは、同じクエリに対して複数の学生生成軌跡を比較し、観察された視覚的証拠を要約し、最初の失敗を診断する。
我々は,これらの反射が教師の予測にどの程度強く影響するかに応じて,トークンレベルの蒸留損失をグループ化し,再重み付けする。
論文 参考訳(メタデータ) (2026-09-29T06:47:11Z) - Learning to Track from Privileged Target Appearances [67.80976117600649]
ボトルネックを、現在のターゲット作物を正確に供給する、デプロイ不可能なオラクルと定量化する。
我々は,これらの特権的外観をデプロイ可能なトラッカーに転送する教師学生向けトレーニングフレームワークであるPrivileged Appearance Transfer for Tracking (PATT)を紹介した。
PATTは、長期追跡プロトコルと短期追跡プロトコルの両方で一貫した利得を達成する。
論文 参考訳(メタデータ) (2026-09-02T11:43:43Z) - VAD: Attributing Visual Evidence for Target Reconstruction in Multimodal On-Policy Distillation [46.347555076026964]
マルチモーダル・オン・ポリティクス蒸留は、生徒が生成した軌跡を教師に監督することで、きめ細かい視覚的知識を伝達する。
主な課題は、どの補正が、どのように蒸留するかだけでなく、視覚的証拠によって支えられているかを推定することである。
本稿では,教師の補正の視覚的帰属部分を推定する対物目標再構成アルゴリズムである視覚属性蒸留(VAD)を紹介する。
論文 参考訳(メタデータ) (2026-07-30T17:43:46Z) - Learn to Rank: Visual Attribution by Learning Importance Ranking [58.69028273772474]
コンピュータビジョンモデルのための視覚属性マップを生成する新しい手法を提案する。
提案手法は, 任意の数段階の勾配補正を施した1つの前方通過において, 密度の高い画素レベルの属性を生成する。
我々の実験は、一貫した定量的改善と、よりシャープで境界に沿った説明を示す。
論文 参考訳(メタデータ) (2026-04-07T12:53:22Z) - Understanding Degradation with Vision Language Model [56.09241449206817]
視覚的劣化を理解することは、コンピュータビジョンにおいて重要な問題であるが、難しい問題である。
本稿では,教師付き微調整と強化学習を併用したマルチモーダル・チェーン・オブ・ソート・モデルであるDU-VLMを紹介する。
また,110,000個のクリーン劣化ペアと接地された物理アノテーションからなる大規模データセットである textbfDU-110k も導入した。
論文 参考訳(メタデータ) (2026-02-04T13:51:15Z) - Improving Network Interpretability via Explanation Consistency Evaluation [56.14036428778861]
本稿では、より説明可能なアクティベーションヒートマップを取得し、同時にモデル性能を向上させるフレームワークを提案する。
具体的には、モデル学習において、トレーニングサンプルを適応的に重み付けするために、新しいメトリクス、すなわち説明整合性を導入する。
そこで,本フレームワークは,これらのトレーニングサンプルに深い注意を払ってモデル学習を促進する。
論文 参考訳(メタデータ) (2024-08-08T17:20:08Z) - Using Early Readouts to Mediate Featural Bias in Distillation [30.5299408494168]
ディープネットワークは、現実世界の教師付き学習タスクにおいて、突発的な特徴ラベル相関を学習する傾向がある。
本稿では,従来のネットワーク層からの表現を用いてラベルを予測しようとする新しい早期読み出し機構を提案する。
論文 参考訳(メタデータ) (2023-10-28T04:58:15Z) - Re-examining Distillation For Continual Object Detection [33.95470797472666]
我々は、なぜオブジェクト検出モデルが破滅的に忘れるのかを徹底的に分析する。
我々は,2段階ネットワークにおける蒸留に基づくアプローチに注目した。
提案手法が地域提案ネットワークに有効であることは明らかだが,教師の予測に過度に自信を持てば,学生モデルによる分類ヘッドの効果的な学習が妨げられる。
論文 参考訳(メタデータ) (2022-04-04T11:50:54Z) - Teacher's pet: understanding and mitigating biases in distillation [61.44867470297283]
いくつかの研究により、蒸留によって学生の全体的なパフォーマンスが著しく向上することが示されている。
しかし、これらのゲインはすべてのデータサブグループに均一なのでしょうか?
蒸留が特定の部分群の性能に悪影響を及ぼすことを示す。
信頼性の低いサブグループに対して,教師の影響を和らげる手法を提案する。
論文 参考訳(メタデータ) (2021-06-19T13:06:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。