論文の概要: Geometry-Aware Distillation for Prompt Tuning Biomedical Vision-Language Models

• arxiv url: http://arxiv.org/abs/2606.04922v1
• Date: Wed, 03 Jun 2026 14:17:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-04 20:44:18.81366
• Title: Geometry-Aware Distillation for Prompt Tuning Biomedical Vision-Language Models
• Title（参考訳）: プロンプト調整型バイオメディカルビジョンランゲージモデルのための幾何学的手法による蒸留法
• Authors: Tran Dinh Tien, Zhiqiang Shen,
• Abstract要約: 視覚言語モデル(VLM)の現在のプロンプトベースおよびアダプタベースチューニングは、医用画像にとって魅力的である。 オムニ幾何知識蒸留(Omni-Geometry Knowledge Distillation, OGKD)を提案する。 我々のOGKDは性能が大幅に向上し、従来のVLM適応よりも平均1.7%-2.8%の精度が向上した。
• 参考スコア（独自算出の注目度）: 40.432049062995326
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Current prompt-based and adapter-based tuning of vision-language models (VLMs) is attractive for medical imaging, where clinical data sensitivity favors frozen backbones and annotations are limited. However, these methods typically optimize only the ground-truth class, treating all other classes as equally incorrect, ignoring clinically meaningful class relations and yielding unstable decision boundaries in limited-supervision settings. We propose Omni-Geometry Knowledge Distillation (OGKD), a new framework that injects class-relation structure into the teacher to produce directional targets that preserve the ground truth while respecting inter-class geometry. Using these targets, we develop two distillation losses: Global Geometry-Aware Distillation (GAD) operates on the global image token, and Label-Guided Geometry Distillation (LGD) applies the same geometry to attentive patch tokens to improve fine-grained alignment. Across comprehensive experiments and analyses on 11 widely-used medical datasets for base-to-novel and few-shot evaluations, our OGKD achieves substantially better performance, consistently improving accuracy by an average absolute gain of 1.7%-2.8% over all prior state-of-the-art VLM adaptation counterparts. It also robustly generalizes to unseen classes and yields more reliable predictions than other approaches. Our code is available at https://github.com/tientrandinh/OGKD.
• Abstract（参考訳）: 視覚言語モデル(VLM)の現在のプロンプトベースおよびアダプタベースチューニングは、臨床データの感度が凍結したバックボーンとアノテーションを優先する医療画像にとって魅力的なものである。 しかし、これらの手法は典型的には地道クラスのみを最適化し、他のすべてのクラスを等しく不正確に扱い、臨床的に意味のあるクラス関係を無視し、限られたスーパービジョン設定で不安定な決定境界をもたらす。 オムニ幾何知識蒸留(Omni-Geometry Knowledge Distillation, OGKD)は,教師にクラス関係構造を注入し,クラス間幾何を尊重しながら、基礎的真理を保存する指向性目標を生成する新しいフレームワークである。 これらを用いて,グローバルな画像トークン上でGAD(Global Geometry-Aware Distillation)が動作し,LGD(Label-Guided Geometry Distillation)が注意パッチトークンに同じ形状を適用し,微細なアライメントを改善する。 我々のOGKDは、ベース・ツー・ノーベルと数点の評価のために広く使われている11の医療データセットに関する総合的な実験と分析を通じて、かなり優れた性能を達成し、従来のVLM適応モデルと比較して平均1.7%-2.8%の精度を継続的に向上させています。 また、目に見えないクラスに強く一般化し、他のアプローチよりも信頼性の高い予測を与える。 私たちのコードはhttps://github.com/tientrandinh/OGKD.comで公開されています。

関連論文リスト

• Representation geometry shapes task performance in vision-language modeling for CT enterography [1.1999555634662633]
  腹部CT検査における視覚言語変換学習の初回研究について報告する。 スライスを埋め込むことで 分類学的疾患の評価が向上します 組織ごとのコントラストは、より広い空間カバレッジよりも重要である。
  論文  参考訳（メタデータ） (2026-04-14T17:56:23Z)
• VL-OrdinalFormer: Vision Language Guided Ordinal Transformers for Interpretable Knee Osteoarthritis Grading [6.106307107513728]
  VLOrdinalFormerは、膝関節X線写真から自動 KOA グレーティングを行うための視覚言語ガイド付き順序学習フレームワークである。 提案手法は,VT L16バックボーンとコーラルに基づく順序回帰と,CLIP(Contrastive Language Image Pretraining)によるセマンティックアライメントモジュールを組み合わせたものである。 OAI kneeKL224データセットで実施された実験は、VLOrdinalFormerがアートパフォーマンスの状態を達成していることを示している。
  論文  参考訳（メタデータ） (2025-12-31T03:01:31Z)
• A Graph-Augmented knowledge Distillation based Dual-Stream Vision Transformer with Region-Aware Attention for Gastrointestinal Disease Classification with Explainable AI [0.06372261626436675]
  本研究は,教師-学生の知識蒸留に基づくハイブリッド二流深層学習フレームワークを提案する。 教師のセマンティックな知識と形態的知識を継承するコンパクトなTiny-ViT構造として学生ネットワークが実装された。 主要なGI疾患クラスを含む2つの注意深くキュレートされたWireless Capsule Endoscopyデータセットを使用して、バランスの取れた表現を保証した。
  論文  参考訳（メタデータ） (2025-12-24T07:51:54Z)
• Interpreting Biomedical VLMs on High-Imbalance Out-of-Distributions: An Insight into BiomedCLIP on Radiology [0.0]
  我々は、高度にバランスの取れない、アウト・オブ・ディストリビューションな医療データセットに適用した場合、BiomedCLIPの限界を分析する。 ゼロショット設定下でのモデルは,すべてのラベルを過度に予測し,精度の低下とクラス間分離性に繋がることを示す。 我々は、現実の環境で信頼性と適用性を高めるために、モデルの慎重な適応の必要性を強調します。
  論文  参考訳（メタデータ） (2025-06-17T02:59:42Z)
• Decentralized LoRA Augmented Transformer with Context-aware Multi-scale Feature Learning for Secured Eye Diagnosis [2.1358421658740214]
  本稿では、コンテキスト認識型マルチスケールパッチ埋め込み、ローランド適応(LoRA)、知識蒸留、フェデレーション学習を統合し、これらの課題に統一的に対処する新しいデータ効率画像変換器(DeiT)ベースのフレームワークを提案する。 提案モデルでは,マルチスケールパッチ表現と局所的および大域的注意機構を活用することで,局所的および大域的網膜特徴を効果的に捉えている。
  論文  参考訳（メタデータ） (2025-05-11T13:51:56Z)
• Crane: Context-Guided Prompt Learning and Attention Refinement for Zero-Shot Anomaly Detection [50.343419243749054]
  異常検出は、医学診断や工業的欠陥検出などの分野において重要である。 CLIPの粗粒化画像テキストアライメントは、微粒化異常に対する局所化と検出性能を制限する。 クレーンは最先端のZSADを2%から28%に改善し、画像レベルとピクセルレベルの両方で、推論速度では競争力を維持している。
  論文  参考訳（メタデータ） (2025-04-15T10:42:25Z)
• Learning Feature Inversion for Multi-class Anomaly Detection under General-purpose COCO-AD Benchmark [101.23684938489413]
  異常検出(AD)は、しばしば産業品質検査や医学的病変検査のための異常の検出に焦点が当てられている。 この研究はまず、COCOをADフィールドに拡張することにより、大規模で汎用的なCOCO-ADデータセットを構築する。 セグメンテーション分野のメトリクスにインスパイアされた我々は、より実用的なしきい値に依存したAD固有のメトリクスをいくつか提案する。
  論文  参考訳（メタデータ） (2024-04-16T17:38:26Z)
• Shifting Focus: From Global Semantics to Local Prominent Features in Swin-Transformer for Knee Osteoarthritis Severity Assessment [42.09313885494969]
  我々はSwin Transformerの能力を利用して階層的な枠組みを通じて画像内の空間的依存関係を識別する。 我々の新しい貢献は、局所的な特徴表現を精細化し、分類器の最終的な分布に特化することにある。 Knee osteoArthritis (KOA) グレード分類のための2つの確立されたベンチマークを広範囲に検証した結果,本モデルは有意な堅牢性と精度を示した。
  論文  参考訳（メタデータ） (2024-03-15T01:09:58Z)
• Taxonomy Adaptive Cross-Domain Adaptation in Medical Imaging via Optimization Trajectory Distillation [73.83178465971552]
  自動医用画像解析の成功は、大規模かつ専門家による注釈付きトレーニングセットに依存する。 非教師なしドメイン適応(UDA)はラベル付きデータ収集の負担を軽減するための有望なアプローチである。 本稿では,2つの技術的課題に新しい視点から対処する統一的手法である最適化トラジェクトリ蒸留を提案する。
  論文  参考訳（メタデータ） (2023-07-27T08:58:05Z)
• Rethinking Semi-Supervised Medical Image Segmentation: A Variance-Reduction Perspective [51.70661197256033]
  医用画像セグメンテーションのための階層化グループ理論を用いた半教師付きコントラスト学習フレームワークARCOを提案する。 まず、分散還元推定の概念を用いてARCOを構築することを提案し、特定の分散還元技術が画素/ボクセルレベルのセグメンテーションタスクにおいて特に有用であることを示す。 5つの2D/3D医療データセットと3つのセマンティックセグメンテーションデータセットのラベル設定が異なる8つのベンチマークで、我々のアプローチを実験的に検証する。
  論文  参考訳（メタデータ） (2023-02-03T13:50:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。