論文の概要: CoverPrune: Coverage-Driven Token Pruning for 3D VLMs via Optimal Transport
- arxiv url: http://arxiv.org/abs/2608.13226v1
- Date: Thu, 13 Aug 2026 13:29:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-14 18:29:38.541628
- Title: CoverPrune: Coverage-Driven Token Pruning for 3D VLMs via Optimal Transport
- Title（参考訳）: CoverPrune: 最適輸送による3次元VLMのためのカバー駆動型トーケンプルーニング
- Abstract要約: 既存のトークンプルーニング法は、分散を最大化するために類似のトークンを捨て、多様性に基づいた選択に依存している。
3D環境では、この手法は典型的なプロトタイプトークンを落として、アウトリーチを優先することが多い。
本稿では,3次元VLMトークンプルーニングのパラダイムシフトを提案する。
- 参考スコア（独自算出の注目度）: 50.2610873651284
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: While 3D Vision-Language Models (3D VLMs) have demonstrated remarkable spatial reasoning capabilities, they suffer from massive visual token counts that create severe computational bottlenecks during inference. Existing token pruning methods primarily rely on diversity-based selection, discarding similar tokens to maximize dispersion. However, in 3D environments, this approach frequently drops representative prototype tokens in favor of outliers, breaking the multi-view consistencies and geometric structures essential for spatial reasoning. In this paper, we propose a paradigm shift for 3D VLM token pruning: from maximizing diversity to preserving visual evidence coverage. We introduce CoverPrune, a training-free framework that formulates inference-time token pruning as an Optimal Transport (OT) problem. To overcome the intractable combinatorial subset selection inherent in this formulation, we design the Feature-Spatial-Temporal (FST) transport cost and target capacity, along with an efficient Spatial-Guided Greedy Selection (SGS) algorithm to approximate the OT objective. Furthermore, we propose CoverPrune-Lite, an accelerated variant utilizing spatially structured local matching for minimal overhead. Extensive experiments across multiple 3D visual-spatial reasoning benchmarks demonstrate that our methods achieve state-of-the-art token efficiency, maintaining robust reasoning performance even under highly aggressive pruning budgets. Visit our project website at https://github.com/Brucess/CoverPrune.
- Abstract（参考訳）: 3次元視覚ランゲージモデル(3D VLM)は、空間的推論能力を顕著に示してきたが、膨大な視覚トークン数に悩まされ、推論中に深刻な計算ボトルネックが生じる。
既存のトークンプルーニング法は主に多様性に基づく選択に依存し、分散を最大化するために類似のトークンを捨てる。
しかし,3次元環境下では,空間的推論に不可欠な多視点成分と幾何学的構造を破り,外接点を優先して代表的なプロトタイプトークンをしばしばドロップする。
本稿では,3次元VLMトークンプルーニングのパラダイムシフトを提案する。
最適輸送(OT)問題として推論時間トークンプルーニングを定式化する,トレーニングフリーのフレームワークであるCoverPruneを紹介する。
この定式化に固有の難解な組合せ部分集合選択を克服するために,FST(Feature-Spatial-Temporal)輸送コストと目標キャパシティを設計し,効率的な空間誘導グリーディ選択(SGS)アルゴリズムを用いてOTの目的を近似する。
さらに,空間的に構造化された局所マッチングを最小限のオーバーヘッドに利用した高速化されたCoverPrune-Liteを提案する。
複数の3次元視覚空間推論ベンチマークによる広範囲な実験により、我々の手法は最先端のトークン効率を達成し、高い攻撃的なプルーニング予算の下でも堅牢な推論性能を維持していることが示された。
プロジェクトのWebサイトはhttps://github.com/Brucess/CoverPrune.comにある。
関連論文リスト
- CoVeR: Coverage-Based Token Pruning for Multi-View 3D Reasoning in VLMs [58.22241532542095]
3Dシーンをマルチビュー画像として表現することで、2D VLMは事前学習の事前知識を再利用し、注釈付き3Dデータの不足を補うことで3Dを推論することができる。
既存の視覚トークンプルーナーは2つのファミリーに分かれ、それぞれが3Dマルチビュー設定に制限される。
空間被覆は3次元推論性能と関連し,トークン座標のみを用いた決定論的学習自由セレクタであるCoVeRを導入し,学習信号を持たないことを示す。
論文 参考訳（メタデータ） (2026-09-08T07:16:37Z) - Efficient3D: A Unified Framework for Adaptive and Debiased Token Reduction in 3D MLLMs [37.792545310147965]
本稿では,視覚的トークンプルーニングのための統合フレームワークであるEfficient3Dを提案する。
Scan2CapデータセットのCIDErは+2.57%向上した。
論文 参考訳（メタデータ） (2026-04-03T03:32:55Z) - SeGPruner: Semantic-Geometric Visual Token Pruner for 3D Question Answering [18.541639027941198]
SeGPrunerは、多視点画像を用いた効率的な3Dのための意味認識および幾何学誘導型トークン還元フレームワークである。
推論効率を大幅に改善し、ビジュアルトークンの予算を91%削減し、推論遅延を86%削減する。
論文 参考訳（メタデータ） (2026-03-31T08:44:04Z) - OTPrune: Distribution-Aligned Visual Token Pruning via Optimal Transport [20.586206895801258]
マルチモーダル大言語モデル(MLLM)は、強力な視覚言語推論を実現するが、冗長な視覚トークンによって高い推論コストを被る。
最近の研究は、推論を加速するために視覚的トークンプルーニングを探求する一方で、既存のプルーニング手法は、視覚的表現の基盤となる分布構造を見落としている。
本稿では,最適輸送による分散アライメントとしてプルーニングを定式化する,トレーニング不要のフレームワークOTPruneを提案する。
論文 参考訳（メタデータ） (2026-02-22T21:02:47Z) - VLM-Pruner: Buffering for Spatial Sparsity in an Efficient VLM Centrifugal Token Pruning Paradigm [18.604455802016233]
視覚言語モデル(VLM)は画像理解タスクに優れるが、多数の視覚トークンは計算コストを大幅に上回る。
VLM-Prunerは、冗長性と空間空間幅のバランスをとる訓練不要なトークンプルーニングアルゴリズムである。
VLM-Prunerは5つのVLMにおいて88.9%のプルーニングレートで強いベースラインを一貫して上回り、エンドツーエンドの推論スピードアップを実現している。
論文 参考訳（メタデータ） (2025-12-02T12:30:05Z) - AdaToken-3D: Dynamic Spatial Gating for Efficient 3D Large Multimodal-Models Reasoning [27.40106634796608]
大規模マルチモーダルモデル(LMM)は、ディープラーニングにおいて重要な研究対象となっている。
現在、3D LMMは何千もの空間トークンを多モーダル推論に用いており、重要な非効率性に悩まされている。
冗長トークンを動的に生成する適応型空間トークン最適化フレームワークであるAdaToken-3Dを提案する。
論文 参考訳（メタデータ） (2025-05-19T07:11:07Z) - AiluRus: A Scalable ViT Framework for Dense Prediction [95.1313839257891]
視覚変換器 (ViT) は、その優れた性能のため、視覚タスクの一般的なアーキテクチャとして登場した。
本稿では,画像の異なる領域に対して,その重要度に応じて適応分解能を適用することを提案する。
提案手法を3つの異なるデータセット上で評価し,有望な性能を観察する。
論文 参考訳（メタデータ） (2023-11-02T12:48:43Z) - PointOcc: Cylindrical Tri-Perspective View for Point-based 3D Semantic
Occupancy Prediction [72.75478398447396]
本稿では,点雲を効果的かつ包括的に表現する円筒型三重対視図を提案する。
また,LiDAR点雲の距離分布を考慮し,円筒座標系における三点ビューを構築した。
プロジェクション中に構造の詳細を維持するために空間群プーリングを使用し、各TPV平面を効率的に処理するために2次元バックボーンを採用する。
論文 参考訳（メタデータ） (2023-08-31T17:57:17Z) - UNETR++: Delving into Efficient and Accurate 3D Medical Image Segmentation [93.88170217725805]
本稿では,高画質なセグメンテーションマスクと,パラメータ,計算コスト,推論速度の両面での効率性を提供するUNETR++という3次元医用画像セグメンテーション手法を提案する。
我々の設計の核となるのは、空間的およびチャネル的な識別的特徴を効率的に学習する、新しい効率的な対注意ブロック(EPA)の導入である。
Synapse, BTCV, ACDC, BRaTs, Decathlon-Lungの5つのベンチマークで評価した結果, 効率と精度の両面で, コントリビューションの有効性が示された。
論文 参考訳（メタデータ） (2022-12-08T18:59:57Z) - Dynamic Convolution for 3D Point Cloud Instance Segmentation [146.7971476424351]
動的畳み込みに基づく3次元点雲からのインスタンスセグメンテーション手法を提案する。
我々は、同じ意味圏と閉投票を持つ等質点を幾何学的遠近点に対して収集する。
提案手法は提案不要であり、代わりに各インスタンスの空間的および意味的特性に適応する畳み込みプロセスを利用する。
論文 参考訳（メタデータ） (2021-07-18T09:05:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。