論文の概要: SLICEChat: Progressive In-Encoder Token Pruning for Whole-Slide Pathology Language Models
- arxiv url: http://arxiv.org/abs/2609.24894v1
- Date: Mon, 21 Sep 2026 16:59:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-22 20:29:01.42207
- Title: SLICEChat: Progressive In-Encoder Token Pruning for Whole-Slide Pathology Language Models
- Title(参考訳): SlicEChat: 全スライディング言語モデルのためのプログレッシブなインエンコーダトーケンプルーニング
- Abstract要約: 全スライディング画像(WSI)には、ギガピクセルスケールの視覚的内容が含まれている。
既存のアプローチは数千のパッチトークンを処理し、通常、スライドエンコーディング後にのみ圧縮を適用する。
SLICEChatは, プログレッシブトークンプルーニングをハイブリッドなMamba-Transformerスライドエンコーダに統合するスライドレベルMLLMである。
- 参考スコア(独自算出の注目度): 14.69042273555519
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Whole-slide pathology images (WSIs) contain gigapixel-scale visual content, creating a major scalability challenge for slide-level multimodal large language models (MLLMs). Existing approaches process thousands of patch tokens and typically apply compression only after slide encoding, leaving multimodal attention computationally expensive. We introduce SLICEChat, a slide-level MLLM that integrates progressive token pruning within a hybrid Mamba--Transformer slide encoder. Mamba layers enable efficient long-range propagation, while Transformer layers preserve global interactions as the sequence is progressively shortened. Between stages, language-supervised, region-aware pruning removes spatially coherent low-utility regions under a controlled keep-rate schedule, producing compact slide representations before multimodal fusion. On SlideBench VQA, SLICEChat achieves 79.84% accuracy on TCGA and 59.09% on BCNB cohorts, outperforming prior slide-level pathology MLLMs, and achieves the highest overall WSI-Bench metrics. It also provides competitive memory usage and the inference latency among the evaluated models. These results demonstrate accurate and computationally efficient multimodal reasoning over gigapixel WSIs.
- Abstract(参考訳): WSI(Whole-Slide pathology image)にはギガピクセルスケールの視覚コンテンツが含まれており、スライドレベルのマルチモーダル大言語モデル(MLLM)に対する大きなスケーラビリティの課題を生み出している。
既存のアプローチは数千のパッチトークンを処理し、通常、スライドエンコーディング後にのみ圧縮を適用する。
SLICEChatは, プログレッシブトークンプルーニングをハイブリッドなMamba-Transformerスライドエンコーダに統合するスライドレベルMLLMである。
マンバ層は効率的な長距離伝播を可能にし、トランスフォーマー層はシーケンスが徐々に短くなるにつれてグローバルな相互作用を保っている。
言語制御された領域認識プルーニングは、制御された保持率スケジュールの下で空間的にコヒーレントな低ユーティリティ領域を除去し、マルチモーダル融合の前にコンパクトなスライド表現を生成する。
SlideBench VQAでは、SlicEChatはTCGAで79.84%、BCNBコホートで59.09%の精度を達成し、以前のスライドレベルの病理学MLLMよりも優れ、WSI-Benchの指標全体でも最高である。
また、評価されたモデル間で競合するメモリ使用量と推論レイテンシも提供する。
これらの結果は、ギガピクセルWSIに対する正確で効率的なマルチモーダル推論を示す。
関連論文リスト
- Thinking in Scales: Accelerating Gigapixel Pathology Image Analysis via Adaptive Continuous Reasoning [52.41928980786654]
スライド画像全体に対してトークン効率のよいスケール空間連続推論を可能にするPathCTMを提案する。
PathCTMは診断推論を動的逐次情報追跡として定式化する。
必要な画像パッチの数を95.95%削減し、推論時間を約95.62%短縮し、AUCを劣化せずに維持する。
論文 参考訳(メタデータ) (2026-05-19T07:46:44Z) - MambaMIL+: Modeling Long-Term Contextual Patterns for Gigapixel Whole Slide Image [24.093388981091717]
多重インスタンス学習(MIL)は、各WSIをパッチレベルのインスタンスの袋として扱うことでソリューションを提供する。
Mambaは長いシーケンス学習のための有望な代替手段として登場し、数千のトークンに線形にスケーリングしている。
長距離依存性モデリングを維持しながら空間コンテキストを明示的に統合する新しいMILフレームワークであるMambaMIL+を提案する。
論文 参考訳(メタデータ) (2025-12-19T16:01:14Z) - LoC-Path: Learning to Compress for Pathology Multimodal Large Language Models [19.89635786218384]
ワイルスライド画像(WSI)の理解は、そのギガピクセルスケールと診断関連領域の極端に親和性があるため、基本的に困難である。
既存のスライドレベルの多モード大言語モデル(MLLM)は、重いスライドレベルのエンコーダに依存している。
コストのかかるスライドレベルのエンコーダを冗長性低減モジュールに置き換える,効率的なMLLMフレームワークであるLoC-Pathを導入する。
論文 参考訳(メタデータ) (2025-12-05T03:16:46Z) - When MLLMs Meet Compression Distortion: A Coding Paradigm Tailored to MLLMs [38.29061845878822]
マルチレベル特徴を適応的に保護し、下流タスクの異なる要求に適合するように設計されたMLLM(CoTAM)に適応した画像コーデックTAiloredを提案する。
MLLMタスクで同じ性能を維持しながら,最大35.99%の省力化を実現している。
論文 参考訳(メタデータ) (2025-09-29T04:07:52Z) - Hypergraph Mamba for Efficient Whole Slide Image Understanding [10.285000840656808]
ホイルスライド画像 (WSI) は, 超高解像度, 大規模, 複雑な空間関係のため, 医用画像解析において重要な課題となっている。
本稿では,ハイパーグラフニューラルネットワーク(HGNN)の高次リレーショナルモデリング機能と状態空間モデルの線形時間逐次モデリング効率を一体化する新しいフレームワークであるWSI-HGMambaを紹介する。
論文 参考訳(メタデータ) (2025-05-23T04:33:54Z) - Mini-Monkey: Alleviating the Semantic Sawtooth Effect for Lightweight MLLMs via Complementary Image Pyramid [87.09900996643516]
本稿では,高分解能画像処理における意味的不連続性を軽減するための補完画像ピラミッド(CIP)を提案する。
また、冗長な視覚トークンを圧縮することにより、計算オーバーヘッドを増大させるスケール圧縮機構(SCM)を導入する。
我々の実験は、CIPが様々なアーキテクチャで継続的に性能を向上できることを示した。
論文 参考訳(メタデータ) (2024-08-04T13:55:58Z) - MEGABYTE: Predicting Million-byte Sequences with Multiscale Transformers [78.85346970193518]
Megabyteは、100万バイトを超えるシーケンスのエンドツーエンドで微分可能なモデリングを可能にするマルチスケールデコーダアーキテクチャである。
実験によると、Megabyteはバイトレベルのモデルで、長い文脈言語モデリングのサブワードモデルと競合することを可能にする。
その結果、トークン化のない自己回帰配列を大規模にモデル化できる可能性が確立された。
論文 参考訳(メタデータ) (2023-05-12T00:55:41Z) - Long-Short Transformer: Efficient Transformers for Language and Vision [97.2850205384295]
長短変換器(Long-Short Transformer, Transformer-LS)は、言語タスクと視覚タスクの両方に線形な複雑さを持つ長いシーケンスをモデリングするための効率的な自己アテンション機構である。
遠距離相関をモデル化するためのダイナミックプロジェクションと、局所相関を微細に捉えるための短期的注意を組み込んだ、新しい長距離の注意を集約する。
提案手法は,Long Range Arenaベンチマーク,自動回帰言語モデリング,イメージネット分類など,言語と視覚領域の複数のタスクにおける最先端モデルよりも優れている。
論文 参考訳(メタデータ) (2021-07-05T18:00:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。