論文の概要: From UNI2-h to ConvNeXt-T: Lightweight Nuclei Instance Segmentation via Knowledge Distillation

• arxiv url: http://arxiv.org/abs/2609.35203v1
• Date: Mon, 28 Sep 2026 13:59:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-02 16:08:30.94396
• Title: From UNI2-h to ConvNeXt-T: Lightweight Nuclei Instance Segmentation via Knowledge Distillation
• Title（参考訳）: UNI2-hからConvNeXt-T:知識蒸留による軽量核インスタンスセグメンテーション
• Abstract要約: 本稿では, UNI2-h病理基盤モデルをConvNeXt-Tiny学生に蒸留する軽量なスキームを提案する。 Ours-TはPanNukeの0.519mPQ(教師の98.8%)、MoNuSegの0ショットbPQは0.668m、推論速度は634.3img/sである。
• 参考スコア（独自算出の注目度）: 1.2561000461165461
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Nuclei instance segmentation is a core task in digital pathology, yet high-accuracy models rely on large vision transformer (ViT) encoders whose inference speed cannot meet real-time clinical demands. We propose a lightweight scheme that distills the UNI2-h pathology foundation model into a ConvNeXt-Tiny student (Ours-T, 34.7M parameters, 1/20 of the teacher) via output-level knowledge distillation. Ours-T achieves an mPQ of 0.519 on PanNuke (98.8% of the teacher), a zero-shot bPQ of 0.668 on MoNuSeg, and an inference speed of 634.3 img/s, requiring only 0.045 s for full-resolution 1024^2 analysis (21.8x speedup). Experiments further show that multi-scale gated convolution (MALA) yields no gain under ViT encoders, and output-level distillation alone suffices for efficient knowledge transfer.
• Abstract（参考訳）: Nucleiのインスタンスセグメンテーションは、デジタル病理学のコアタスクであるが、高精度モデルは、推論速度がリアルタイムな臨床要求を満たすことができない大きな視覚変換器(ViT)エンコーダに依存している。 本稿では, UNI2-h の病理基盤モデルから ConvNeXt-Tiny の学生 (Ours-T, 34.7M パラメータ, 教師の1/20) に出力レベルの知識蒸留により蒸留する軽量なスキームを提案する。 Ours-TはPanNukeで0.519 mPQ(教師の98.8%)、MoNuSegで0.668 bPQ、推測速度は634.3 img/sで、フル解像度の1024^2分析では0.045 sしか必要としない(21.8xスピードアップ)。 さらに、マルチスケールゲート畳み込み(MALA)は、ViTエンコーダの下では利得を得られず、出力レベルの蒸留だけでは効率的な知識伝達に十分であることを示した。

関連論文リスト

• CSCWD: Cross-Scale Channel-wise Knowledge Distillation for Lightweight Tiny Object Detection on Edge Devices [0.45835414225547183]
  本研究は,CSCWD(Cross-Scale Channel-wise Knowledge Distillation)について述べる。 CSCWDは、学生の推論アーキテクチャを変更することなく、YOLO11m-P2教師からコンパクトなYOLO11n学生に高解像度空間表現を転送する。 結果は、推論時間モデル複雑性を増大させることなく、小さなターゲット検出を改善するために、クロススケール蒸留をサポートする。
  論文  参考訳（メタデータ） (2026-09-24T18:02:25Z)
• TurboT2VA: Fast Large-Scale Text-to-Video-Audio Generation via Score-Regularized Consistency Distillation [105.14745366152725]
  TurboT2VAは、ジョイントテキスト・ツー・ビデオ・オーディオ生成のための蒸留および推論フレームワークである。 LTX-2では、4段階の蒸留により512$times$768の標準評価解像度でジェネレータのレイテンシを50.52sから2.51sに短縮する。 完全なスタックは、ジェネレータのレイテンシを318.74sから1つのNVIDIA H20で5.83sに短縮し、54.67$times$ジェネレータのみのスピードアップを達成した。
  論文  参考訳（メタデータ） (2026-08-25T15:09:02Z)
• Towards Compact Unified Multimodal Tracking: Synergizing Knowledge Distillation with Structural Pruning [80.73561460934809]
  多モード物体追跡は 相補的なセンサーデータを活用することで 目覚ましい堅牢性を達成した 我々は予測ヘッドを重要ではあるが、しばしば見過ごされる効率ボトルネックとみなしている。 デコーダアーキテクチャを戦略的に合理化することで、リアルタイム推論の可能性を解き放ちます。
  論文  参考訳（メタデータ） (2026-08-02T20:41:33Z)
• Single-Channel Tissue Segmentation via Cross-Modal Distillation from Foundation Models [0.0]
  多重蛍光顕微鏡は、核(DAPI)と膜(E-カドヘリン)を含む相補的なチャネルを提供することで組織セグメンテーションを改善する 本研究では,核チャネルのみで動作する軽量の学生に,凍結基礎モデル教師による多重入力処理から意味情報を伝達するクロスモーダルな知識蒸留フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-05-30T23:34:49Z)
• BWTA: Accurate and Efficient Binarized Transformer by Algorithm-Hardware Co-design [71.97035034203275]
  バイナライゼーションにおけるゼロ点歪みを解析し,BWTA量子化方式を提案する。 本稿では,Smooth Multi-Stage Quantizationを提案し,レベルワイド・デグラデーション・ストラテジーとMagnitude Alignment Projection Factorを組み合わせた。 実験の結果、BWTAはTransformerベースのモデルに対して、GLUEでは平均3.5%、タスクでは2%未満の精度でフル精度のパフォーマンスにアプローチしていることがわかった。
  論文  参考訳（メタデータ） (2026-04-05T04:25:07Z)
• TinyR1-32B-Preview: Boosting Accuracy with Branch-Merge Distillation [19.938309176933902]
  本稿では, モデル圧縮を2相で促進するブランチ・マージ蒸留法を提案する。 我々は,DeepSeek-R1を教師とし,DeepSeek-R1-Distill-Qwen-32Bを学生として蒸留アプローチを検証する。 合併したTinyR1-32B-Previewは、複数のベンチマークでDeepSeek-R1-Distill-Qwen-32Bを上回った。
  論文  参考訳（メタデータ） (2025-03-06T16:25:53Z)
• TinyCLIP: CLIP Distillation via Affinity Mimicking and Weight Inheritance [97.01406871579525]
  大規模言語画像事前学習モデルのための新しいクロスモーダル蒸留法TinyCLIPを提案する。 また、TinyCLIPは、トレーニング済みのCLIP ViT-B/32のサイズを50%削減し、ゼロショット性能を同等に維持できることを示した。 YFCC-15MでトレーニングしたTinyCLIP ViT-8M/16は、ImageNetで41.1%という印象的なゼロショットトップ1の精度を達成した。
  論文  参考訳（メタデータ） (2023-09-21T17:59:53Z)
• Q-ViT: Accurate and Fully Quantized Low-bit Vision Transformer [56.87383229709899]
  我々は、完全量子化視覚変換器(Q-ViT)のための情報修正モジュール(IRM)と分配誘導蒸留法を開発した。 我々の手法は、先行技術よりもはるかに優れたパフォーマンスを実現している。
  論文  参考訳（メタデータ） (2022-10-13T04:00:29Z)
• Global Vision Transformer Pruning with Hessian-Aware Saliency [93.33895899995224]
  この研究はヴィジュアルトランスフォーマー(ViT)モデルの共通設計哲学に挑戦する。 遅延を意識した規則化による直接遅延低減を実現し,すべての層や構造に匹敵する新しいヘッセン型構造解析基準を導出する。 DeiT-Baseモデルで反復的なプルーニングを実行すると、NViT(Novel ViT)と呼ばれる新しいアーキテクチャファミリが生まれ、パラメータをより効率的に利用する新しいパラメータが現れる。
  論文  参考訳（メタデータ） (2021-10-10T18:04:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。