論文の概要: LaSeD: Label-Semantic Self-Distillation for Visual-Only Surgical Phase Recognition
- arxiv url: http://arxiv.org/abs/2609.18971v1
- Date: Thu, 16 Jul 2026 13:04:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.584264
- Title: LaSeD: Label-Semantic Self-Distillation for Visual-Only Surgical Phase Recognition
- Title(参考訳): LaSeD : 視覚専用位相認識のためのラベル・セマンティック自己蒸留法
- Abstract要約: ラベルセマンティックな自己蒸留フレームワークであるemphLaSeDを提案する。
フェーズ名は、視覚のみのデプロイメントを維持しながら、特権付きトレーニングタイムコンテキストとして使用する。
LaSeDは86.20%の精度、77.75%のマクロリコール、78.13%のマクロ精度、64.15%のマクロジャカードを実現している。
- 参考スコア(独自算出の注目度): 1.8273060079116208
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Surgical phase recognition maps each video frame to a clinically meaningful workflow phase, supporting context-aware assistance, documentation, and postoperative analysis. Most methods treat phase annotations only as class IDs, whereas recent surgical vision-language models often require additional video--text data, captions, or instruction tuning. We propose \emph{LaSeD}, a label-semantic self-distillation framework that uses phase names as privileged training-time context while retaining visual-only deployment without a ground-truth phase-name hint. LaSeD initializes a frozen teacher and a student from the same pretrained VLM checkpoint. The teacher receives the frame, a fixed task prompt, and the ground-truth phase-name hint; the student receives the same frame and prompt without the hint, and only its visual encoder is optimized. Training combines hard phase-token supervision with feature-level distillation from cached teacher representations. At inference, the teacher and hint are removed, and the student predicts one of the seven Cholec80 phases through constrained digit-token logits without an additional classifier head. On the Cholec80 evaluation split, LaSeD achieves 86.20\% accuracy, 77.75\% macro recall, 78.13\% macro precision, and 64.15\% macro Jaccard. Under the identical protocol, it improves a visual-only Qwen3-VL-4B baseline by 9.45, 9.42, 11.93, and 12.22 percentage points, respectively. Visual-only means that the image is the only sample-specific inference input, while all frames share the same fixed task prompt. These results suggest that phase names provide a useful low-cost signal for adapting VLMs to surgical workflow analysis. (The code will be published soon.)
- Abstract(参考訳): 外科的位相認識は、各ビデオフレームを臨床的に意味のあるワークフローフェーズにマッピングし、コンテキスト認識の支援、文書化、術後分析をサポートする。
ほとんどの方法は、位相アノテーションをクラスIDとしてのみ扱うが、最近の手術用視覚言語モデルは、ビデオテキストデータ、キャプション、インストラクションチューニングを必要とすることが多い。
そこで本稿では, 位相名のヒントを伴わずに視覚のみの配置を維持しながら, 位相名を特権的な訓練時間文脈として利用するラベル意味の自己蒸留フレームワークである \emph{LaSeD} を提案する。
LaSeDは、凍結した教師と学生を、同じトレーニング済みのVLMチェックポイントから初期化する。
教師は、フレームと、固定されたタスクプロンプトと、地味の位相名ヒントとを受け取り、生徒は同じフレームとプロンプトをヒントなしで受け取り、視覚エンコーダのみを最適化する。
訓練は、ハードフェーズの指導と、キャッシュされた教師表現からの特徴レベルの蒸留を組み合わせる。
推論時に教師とヒントを除去し、追加の分類器ヘッドを使わずに拘束された桁ツーケンロジットを通して7つのColec80フェーズのうちの1つを予測する。
Cholec80の評価分割で、LaSeDは86.20\%の精度、77.75\%のマクロリコール、78.13\%のマクロ精度、64.15\%のマクロジャカードを達成した。
同プロトコルでは、視覚のみのQwen3-VL-4Bベースラインを9.45、9.42、11.93、12.22ポイント改善している。
ビジュアルのみの場合、イメージが唯一のサンプル固有の推論入力であり、すべてのフレームが同じ固定タスクプロンプトを共有する。
これらの結果から, 位相名はVLMを手術ワークフロー解析に適応する上で有用な低コストな信号となることが示唆された。
(まもなく公開予定)
関連論文リスト
- TractoGraphVLM: A Unified Vision-Language Framework for White Matter Tractography [0.30586855806896046]
TractoGraphVLMは4つのタスク、バンドル分類、テキストから抽出、解剖学、視覚的質問応答のための統一されたフレームワークである。
GPSトランスフォーマーは、対照的な学習を通じて凍結されたBiomedBERTテキストエンコーダと整列したバンドル埋め込みを生成する。
ビジュアルキャプション付きバイオGPTデコーダはトークンと回答を生成する。
論文 参考訳(メタデータ) (2026-08-16T16:14:48Z) - Few-Shot Concept Prompt Learning for Segmentation Foundation Models via Visual Grounding [0.0]
Few-Shot Concept Prompt Learning (FS-CPL) は、 encoder-decoder バックボーンをフリーズしたマスク監視を通じて、$K$イメージ-マスクペアの小さなサポートセットから、mathbbRT times d$に $mathbfp* を埋め込むという継続的概念を学ぶ。
FS-CPLは、標準テキストプロンプトで最大$+0.62$のDiceを絶対的に改善し、Emphbackboneに依存しない。
論文 参考訳(メタデータ) (2026-08-03T03:54:17Z) - LEViL: Label-Efficient Video Learning via Zero-Shot Distillation over VLM-Generated Pseudo-Label Spaces [0.0]
監視ビデオ事前訓練は、下流行動認識性能を改善するための共通の伝達学習の実践である。
本研究では,アノテーションなしビデオ事前学習と目標ラベルセット対応微調整を組み合わせたラベル効率のよいビデオ学習フレームワークを提案する。
論文 参考訳(メタデータ) (2026-06-19T12:01:10Z) - Semi-supervised Video Semantic Segmentation Using Unreliable Pseudo Labels for PVUW2024 [12.274092278786966]
信頼できない擬似ラベルに基づく半教師付きビデオセマンティックセグメンテーション手法を採用する。
本手法では,mIoUが63.71%,67.83%,最終試験が67.83%であった。
CVPR 2024におけるワイルドチャレンジにおけるビデオ・シーン・パーシングの第1位を獲得した。
論文 参考訳(メタデータ) (2024-06-02T01:37:26Z) - SILC: Improving Vision Language Pretraining with Self-Distillation [113.50400246862056]
本稿では,視覚言語事前学習のための新しいフレームワークであるSILCを紹介する。
SILCは、局所-言語対応学習を自己蒸留で簡単に追加することで、画像テキストのコントラスト学習を改善する。
指数移動平均(EMA)教師モデルから局所像の特徴を抽出することにより,検出やセグメンテーションといった密集した予測タスクにおけるモデル性能が大幅に向上することを示す。
論文 参考訳(メタデータ) (2023-10-20T08:44:47Z) - Leveraging per Image-Token Consistency for Vision-Language Pre-training [52.825150269820696]
クロスモーダルマスク言語モデリング(CMLM)は視覚言語事前学習には不十分である。
視覚言語事前学習のためのEPIC(Leveraging Per Image-Token Consistency)を提案する。
提案手法は, 事前学習法と容易に組み合わせることができる。
論文 参考訳(メタデータ) (2022-11-20T12:10:53Z) - Fine-grained Visual-Text Prompt-Driven Self-Training for Open-Vocabulary
Object Detection [87.39089806069707]
オープン語彙検出(VTP-OVD)のための微粒なビジュアルテキストプロンプト駆動型自己学習パラダイムを提案する。
適応段階では、学習可能なテキストプロンプトを用いて細粒度アライメントを可能とし、補助的なピクセルワイズ予測タスクを解決する。
実験の結果,COCO の未確認クラスでは,31.5% mAP など,オープン語彙オブジェクト検出の最先端性能が得られた。
論文 参考訳(メタデータ) (2022-11-02T03:38:02Z) - MaskCLIP: Masked Self-Distillation Advances Contrastive Language-Image
Pretraining [138.86293836634323]
MaskCLIPは、新たに提案されたマスク付き自己蒸留をコントラスト言語イメージ事前学習に組み込む。
MaskCLIPは、言語エンコーダの誘導により、線形探索、微調整、ゼロショット性能において優れた結果が得られる。
論文 参考訳(メタデータ) (2022-08-25T17:59:58Z) - SdAE: Self-distillated Masked Autoencoder [95.3684955370897]
本稿では,自己蒸留マスク付きオートエンコーダネットワークSdAEを提案する。
300エポックの事前トレーニングで、バニラViT-BaseモデルはImageNet-1k分類において84.1%の微調整精度を達成する。
論文 参考訳(メタデータ) (2022-07-31T15:07:25Z) - Prefix Conditioning Unifies Language and Label Supervision [84.11127588805138]
学習した表現の一般化性を低減することにより,データセットのバイアスが事前学習に悪影響を及ぼすことを示す。
実験では、この単純な手法により、ゼロショット画像認識精度が向上し、画像レベルの分布シフトに対するロバスト性が向上することを示した。
論文 参考訳(メタデータ) (2022-06-02T16:12:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。