論文の概要: Parameter-efficient Prompt Tuning and Hierarchical Textual Guidance for Few-shot Whole Slide Image Classification
- arxiv url: http://arxiv.org/abs/2603.21504v1
- Date: Mon, 23 Mar 2026 02:50:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-24 19:11:39.452962
- Title: Parameter-efficient Prompt Tuning and Hierarchical Textual Guidance for Few-shot Whole Slide Image Classification
- Title(参考訳): ファウショット全スライド画像分類のためのパラメータ効率のよいプロンプトチューニングと階層的テクスチャガイダンス
- Authors: Jayanie Bogahawatte, Sachith Seneviratne, Saman Halgamuge,
- Abstract要約: Whole Slide Images (WSI) はスケールがギガピクセルであり、WSI分類パイプラインの小さなインスタンスに分割されるのが一般的である。
テキストエンコーダの機能拡張とシフトによるパラメータ効率の良いプロンプトチューニング手法を提案する。
また、ハードインスタンスフィルタリングを使わずに、ソフトな階層的なテキストガイダンス戦略を備えたWSI表現学習手法も導入する。
- 参考スコア(独自算出の注目度): 2.2346611200823934
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Whole Slide Images (WSIs) are giga-pixel in scale and are typically partitioned into small instances in WSI classification pipelines for computational feasibility. However, obtaining extensive instance level annotations is costly, making few-shot weakly supervised WSI classification (FSWC) crucial for learning from limited slide-level labels. Recently, pre-trained vision-language models (VLMs) have been adopted in FSWC, yet they exhibit several limitations. Existing prompt tuning methods in FSWC substantially increase both the number of trainable parameters and inference overhead. Moreover, current methods discard instances with low alignment to text embeddings from VLMs, potentially leading to information loss. To address these challenges, we propose two key contributions. First, we introduce a new parameter efficient prompt tuning method by scaling and shifting features in text encoder, which significantly reduces the computational cost. Second, to leverage not only the pre-trained knowledge of VLMs, but also the inherent hierarchical structure of WSIs, we introduce a WSI representation learning approach with a soft hierarchical textual guidance strategy without utilizing hard instance filtering. Comprehensive evaluations on pathology datasets covering breast, lung, and ovarian cancer types demonstrate consistent improvements up-to 10.9%, 7.8%, and 13.8% respectively, over the state-of-the-art methods in FSWC. Our method reduces the number of trainable parameters by 18.1% on both breast and lung cancer datasets, and 5.8% on the ovarian cancer dataset, while also excelling at weakly-supervised tumor localization. Code at https://github.com/Jayanie/HIPSS.
- Abstract(参考訳): ワイルスライド画像(WSI)はスケールがギガピクセルであり、一般に計算可能性のためにWSI分類パイプラインの小さなインスタンスに分割される。
しかし、広範囲のインスタンスレベルのアノテーションを得るにはコストがかかるため、限られたスライドレベルのラベルから学ぶのに、弱い教師付きWSI分類(FSWC)が不可欠である。
近年、FSWCでは事前学習型視覚言語モデル(VLM)が採用されているが、いくつかの制限がある。
FSWCの既存のプロンプトチューニング手法は、トレーニング可能なパラメータの数と推論オーバーヘッドの両方を大幅に増加させる。
さらに、現在のメソッドは、VLMからのテキスト埋め込みに対するアライメントの低いインスタンスを破棄し、情報損失につながる可能性がある。
これらの課題に対処するために、我々は2つの重要な貢献を提案する。
まず,テキストエンコーダの機能拡張とシフトによるパラメータ効率の良いプロンプトチューニング手法を導入し,計算コストを大幅に削減する。
第2に、VLMの事前訓練された知識だけでなく、WSIの固有の階層構造も活用するために、ハードインスタンスフィルタリングを使わずに、ソフトな階層的なテキストガイダンス戦略によるWSI表現学習手法を導入する。
乳がん、肺がん、卵巣がんを対象とする病理データセットに関する総合的な評価では、FSWCの最先端の手法に比べて、それぞれ10.9%、7.8%、13.8%の改善が見られた。
本手法は, 乳がんおよび肺癌のデータセットで18.1%, 卵巣癌データセットで5.8%のトレーニングパラメータを減少させるとともに, 腫瘍局在の弱さにも優れる。
コードネームはhttps://github.com/Jayanie/HIPSS。
関連論文リスト
- Take a Peek: Efficient Encoder Adaptation for Few-Shot Semantic Segmentation via LoRA [10.406945969691781]
Few-shot semantic segmentation (FSS) は、小さなサポートセットのみを使用して、クエリイメージに新しいクラスをセグメントすることを目的としている。
我々は、FSSとクロスドメインFSSの両方のエンコーダ適応性を向上させる方法であるtextitTake a Peek (TaP)を紹介した。
論文 参考訳(メタデータ) (2025-12-11T10:47:01Z) - AHDMIL: Asymmetric Hierarchical Distillation Multi-Instance Learning for Fast and Accurate Whole-Slide Image Classification [51.525891360380285]
AHDMILは非対称な階層的蒸留マルチインスタンス学習フレームワークである。
2段階のトレーニングプロセスを通じて、無関係なパッチを排除します。
分類性能と推論速度の両方において、従来の最先端手法を一貫して上回っている。
論文 参考訳(メタデータ) (2025-08-07T07:47:16Z) - ALoRE: Efficient Visual Adaptation via Aggregating Low Rank Experts [71.91042186338163]
ALoREは、Kroneckerによって構築された超複素パラメータ化空間をAggregate Low Rank Expertsに再利用する新しいPETL法である。
巧妙な設計のおかげで、ALoREは無視できる余分なパラメータを保持し、凍ったバックボーンに強制的にマージできる。
論文 参考訳(メタデータ) (2024-12-11T12:31:30Z) - An efficient framework based on large foundation model for cervical cytopathology whole slide image screening [13.744580492120749]
本稿では,教師なし・弱教師付き学習によるWSIレベルラベルのみを用いた頚部細胞病理学WSI分類のための効率的なフレームワークを提案する。
CSDおよびFNAC 2019データセットで実施された実験は、提案手法が様々なMIL手法の性能を高め、最先端(SOTA)性能を達成することを示した。
論文 参考訳(メタデータ) (2024-07-16T08:21:54Z) - Transductive Zero-Shot and Few-Shot CLIP [24.592841797020203]
本稿では,トランスダクティブなゼロショットと少数ショットのCLIP分類問題に対処する。
推論は、各インスタンスを独立して扱うのではなく、ラベルのないクエリサンプルのミニバッチで共同で実行される。
提案手法は,CLIPのゼロショット性能に対して,画像ネットの精度を約20%向上させる。
論文 参考訳(メタデータ) (2024-04-08T12:44:31Z) - Sparse is Enough in Fine-tuning Pre-trained Large Language Models [98.46493578509039]
我々はSparse Increment Fine-Tuning (SIFT) という勾配に基づくスパース微調整アルゴリズムを提案する。
GLUE Benchmark や Instruction-tuning などのタスクで有効性を検証する。
論文 参考訳(メタデータ) (2023-12-19T06:06:30Z) - NearbyPatchCL: Leveraging Nearby Patches for Self-Supervised Patch-Level
Multi-Class Classification in Whole-Slide Images [10.8479107614771]
全スライディング画像(WSI)解析は、がんの診断と治療において重要な役割を担っている。
本稿では,新しい自己教師型学習手法であるNearby Patch Contrastive Learning(NearbyPatchCL)を紹介する。
本手法は,トップ1分類精度87.56%で,教師付きベースラインと最先端SSL法を著しく上回っている。
論文 参考訳(メタデータ) (2023-12-12T18:24:44Z) - Language models are good pathologists: using attention-based sequence
reduction and text-pretrained transformers for efficient WSI classification [0.21756081703275998]
全体スライド画像(WSI)解析は通常、多重インスタンス学習(MIL)問題として定式化される。
textitSeqShortは、各WSIを固定サイズと短サイズのインスタンスのシーケンスで要約するシーケンス短縮レイヤである。
本稿では,大容量のテキストデータに対して,下流トランスフォーマーアーキテクチャの事前訓練を行った場合,WSI分類性能が向上することを示す。
論文 参考訳(メタデータ) (2022-11-14T14:11:31Z) - SCARF: Self-Supervised Contrastive Learning using Random Feature
Corruption [72.35532598131176]
本稿では,特徴のランダムなサブセットを乱してビューを形成するコントラスト学習手法であるSCARFを提案する。
SCARFは既存の戦略を補完し、オートエンコーダのような代替手段より優れていることを示す。
論文 参考訳(メタデータ) (2021-06-29T08:08:33Z) - Attentional-Biased Stochastic Gradient Descent [74.49926199036481]
深層学習におけるデータ不均衡やラベルノイズ問題に対処するための証明可能な手法(ABSGD)を提案する。
本手法は運動量SGDの簡易な修正であり,各試料に個別の重み付けを行う。
ABSGDは追加コストなしで他の堅牢な損失と組み合わせられるほど柔軟である。
論文 参考訳(メタデータ) (2020-12-13T03:41:52Z) - Prior Guided Feature Enrichment Network for Few-Shot Segmentation [64.91560451900125]
最先端のセマンティックセグメンテーション手法は、良い結果を得るために十分なラベル付きデータを必要とする。
少数のラベル付きサポートサンプルを持つ新しいクラスに迅速に適応するモデルを学習することで,この問題に対処するためのショットセグメンテーションが提案されている。
これらのフレームワークは、高レベルのセマンティック情報の不適切な使用により、目に見えないクラスにおける一般化能力の低下という課題に直面している。
論文 参考訳(メタデータ) (2020-08-04T10:41:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。