論文の概要: GeoGR: Spatial-Semantic Token Compression and Group Routing for Efficient 3D VLMs

• arxiv url: http://arxiv.org/abs/2610.13035v1
• Date: Fri, 09 Oct 2026 05:46:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-13 04:06:29.411638
• Title: GeoGR: Spatial-Semantic Token Compression and Group Routing for Efficient 3D VLMs
• Title（参考訳）: GeoGR: 効率的な3次元VLMのための空間意味的トーケン圧縮とグループルーティング
• Abstract要約: マルチビュー表現により、事前訓練された画像とビデオビジョン言語モデルで3Dシーンを理解できる。 冗長性は、ビューをまたいだ同じシーン領域の繰り返し観察と、すべてのLCM層で全ての視覚トークンを処理することから生じる。 シーン表現と視覚計算を共同で圧縮する2段階フレームワークであるGeoGRを提案する。
• 参考スコア（独自算出の注目度）: 25.88673172318777
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Multi-view representations enable pretrained image and video vision-language models to understand 3D scenes, but their long visual token sequences make inference costly. Redundancy arises both from repeated observations of the same scene regions across views and from processing all visual tokens at every LLM layer, regardless of their relevance to the current computation. We propose GeoGR, a two-stage framework that jointly compresses scene representations and visual computation. At the projector level, GeoSemZip consolidates cross-view observations into 3D voxel tokens and combines semantic saliency with spatial coverage to construct a compact scene representation. Unselected voxel features are aggregated into contextual anchors to retain scene information that would otherwise be discarded. At the LLM level, we identify an effective visual computation window and observe that query-conditioned token relevance remains locally stable but changes over longer layer intervals. Guided by these findings, GroupRoute combines late entry and early exit with recoverable group-wise skipping. Low-relevance tokens bypass complete LLM layers while retaining their hidden states and can rejoin the active group at subsequent anchor layers selected under a computation budget. For compression-aware post-training, we construct a compact dataset of 67K samples by retaining 30% of the original training pool. With this protocol, GeoGR retains 95.2% and 96.8% of the dense post-trained models' performance on LLaVA-OneVision-7B and Video-3D LLM-7B, respectively, while accelerating LLM prefill by $6.8\times$ and $6.1\times$. These results demonstrate the consistent effectiveness of GeoGR across 3D VLMs with and without explicit 3D spatial encoding, highlighting a favorable performance-efficiency trade-off. The code is available at https://github.com/EIT-NLP/GeoGR.
• Abstract（参考訳）: マルチビュー表現は、事前訓練された画像と映像ビジョン言語モデルで3Dシーンを理解できるが、長い視覚トークンシーケンスは推論にコストがかかる。 冗長性は、ビューをまたいだ同じシーン領域の繰り返し観測と、現在の計算との関係にかかわらず、すべてのLCM層で全ての視覚トークンを処理することから生じる。 シーン表現と視覚計算を共同で圧縮する2段階フレームワークであるGeoGRを提案する。 プロジェクタレベルでは、GeoSemZipは3次元ボクセルトークンにクロスビュー観測を集約し、セマンティックサリエンシと空間的カバレッジを組み合わせてコンパクトなシーン表現を構築する。 選択されていないボクセル機能はコンテキストアンカーに集約され、そうでなければ破棄されるシーン情報を保持する。 LLMレベルでは、有効なビジュアル計算ウィンドウを特定し、クエリ条件付きトークンの関連性は局所的に安定だが、より長い層間隔で変化していることを観察する。 これらの発見に導かれたGroupRouteは、後期の入店と早期の退社と、グループワイドのスキップを兼ね備えている。 低関連トークンは、完全なLCM層をバイパスし、隠された状態を保持し、計算予算の下で選択されたアンカー層でアクティブグループに再加入することができる。 圧縮認識後トレーニングのために,元のトレーニングプールの30%を保持することで67Kサンプルのコンパクトデータセットを構築した。 このプロトコルでは、GeoGRはLLaVA-OneVision-7BとVideo-3D LLM-7Bの高密度後モデルの性能の95.2%と96.8%を保持し、LLMプリフィルは6.8\times$と6.1\times$を加速している。 これらの結果は,3次元VLMにおけるGeoGRの空間符号化による一貫した有効性を示し,良好な性能・効率のトレードオフを浮き彫りにした。 コードはhttps://github.com/EIT-NLP/GeoGRで公開されている。

関連論文リスト

• HiSC: Hierarchical Spatial Clustering Token Compression for Efficient 3D Scene Understanding [16.080049512272026]
  3次元視覚言語モデル(3次元VLM)は、多視点シーン上の空間的推論を可能にするが、相当なトークン冗長性に悩まされる。 3次元VLMにおける階層的空間クラスタリングトークン圧縮のためのトレーニングフリーフレームワークである textbfHiSC を提案する。 HiSCはトークンレベルの選択から、トークンを空間的に接地されたクラスタに整理することで、クラスタレベルの処理までトークン圧縮を解除する。
  論文  参考訳（メタデータ） (2026-08-05T09:15:43Z)
• GSTEP: Global Spatio-Temporal Density-Driven Visual Token Pruning for Efficient Video Large Language Models [23.830073542329913]
  本稿では,映像を連続的な時空間情報フローとしてモデル化するプラグアンドプレイプルーニングフレームワークであるGSTEPを提案する。 GSTEPは、高い精度と効率のトレードオフを一貫して達成し、モデルアーキテクチャや評価設定にわたってうまく一般化する。
  論文  参考訳（メタデータ） (2026-08-04T03:51:46Z)
• GeoTrace: Geometry-Aware Trajectory Token Compression for Video Large Language Models [25.376020984792845]
  GeoTraceは、ビデオ大言語モデルのためのトレーニング不要なトークン圧縮フレームワークである。 ビデオ証拠を正確な骨格トークンと追跡可能な残留イベントトークンに分解する。 99.1%のバニラ性能を維持しながら(12.99タイム)のTFLOP削減を実現している。
  論文  参考訳（メタデータ） (2026-07-10T03:58:26Z)
• OmniVLN: Omnidirectional 3D Perception and Token-Efficient LLM Reasoning for Visual-Language Navigation across Air and Ground Platforms [33.40889181799252]
  言語誘導型エンボディナビゲーションでは、エージェントがオブジェクト参照命令を解釈し、複数の部屋を探索し、参照されたターゲットをローカライズし、それに対する信頼できる動きを実行する必要がある。 OmniVLNは、全方位3次元知覚とトークン効率の高い階層的推論を、空中と地上の両方で組み合わせたゼロショット視覚言語ナビゲーションフレームワークである。 実験により、提案した階層インタフェースは空間参照精度を77.27%から93.18%に改善し、マルチルームの乱雑な設定で累積的なプロンプトトークンを61.7%削減し、フラットで最大11.68%のナビゲーション成功率向上を実現した。
  論文  参考訳（メタデータ） (2026-03-18T04:26:30Z)
• Nüwa: Mending the Spatial Integrity Torn by VLM Token Pruning [82.39668822222386]
  ビジョントークンプルーニングは、効率的なビジョン言語モデル(VLM)のための効果的なアクセラレーション手法であることが証明された。 空間的整合性を維持しつつ,効率的な特徴集約を実現するための2段階のトークンプルーニングフレームワークである$textNwa$を提案する。 実験によると、textNwa$は複数のVQAベンチマーク(94%から95%)でSOTAのパフォーマンスを達成し、視覚的グラウンドタスク(7%から47%)を大幅に改善している。
  論文  参考訳（メタデータ） (2026-02-03T00:51:03Z)
• Patch-as-Decodable-Token: Towards Unified Multi-Modal Vision Tasks in MLLMs [88.68484904214142]
  Patch-as-Decodable Token (PaDT)を導入し、テキストと多様な視覚出力を生成する。 PaDTの中心は、クエリイメージのビジュアルパッチ埋め込みから派生したVisual Reference Tokens (VRT)である。 MLLMモデルと比較しても,PaDTは最先端の性能を一貫して達成できることを示す。
  論文  参考訳（メタデータ） (2025-10-02T12:23:57Z)
• InternVL-X: Advancing and Accelerating InternVL Series with Efficient Visual Token Compression [1.8893427856534721]
  InternVL-Xは、性能と効率の両方で、InternVLモデルより優れている。 20%以下のビジュアルトークンを利用することで、InternVL-Xは7つのパブリックMLLMベンチマークで最先端のパフォーマンスを達成し、12タスクの平均メトリックを2.34%改善する。
  論文  参考訳（メタデータ） (2025-03-27T09:31:35Z)
• SpaceVLLM: Endowing Multimodal Large Language Model with Spatio-Temporal Video Grounding Capability [58.46310813774538]
  大規模言語モデル (LMLM) は時間的あるいは空間的局所化において顕著な進歩を遂げた。 しかし、彼らは時間的なビデオグラウンドの実行に苦慮している。 この制限は2つの大きな課題に起因している。 時間的ビデオグラウンドティングを具備したMLLMVLであるSpaceLMを紹介する。
  論文  参考訳（メタデータ） (2025-03-18T07:40:36Z)
• Coarse Correspondences Boost Spatial-Temporal Reasoning in Multimodal Language Model [51.83436609094658]
  本稿では,2次元画像を入力として,MLLMの時空間推論を強化する軽量な手法である粗対応を導入する。 本手法は,映像のフレーム間や異なる視点における主物体の対応性を特定するために,軽量な追跡モデルを用いている。 この単純なトレーニングフリーアプローチは、4つのベンチマークでGPT4-V/Oに一定の利得をもたらすことを実証する。
  論文  参考訳（メタデータ） (2024-08-01T17:57:12Z)
• Self-supervised Video Representation Learning by Uncovering Spatio-temporal Statistics [74.6968179473212]
  本稿では,自己指導型学習問題に対処する新しい前提課題を提案する。 最大運動の空間的位置や支配的な方向など,分割的・時間的統計的な要約を連続して計算する。 ビデオフレームを入力として与えられた統計的要約を得るために、ニューラルネットワークを構築して訓練する。
  論文  参考訳（メタデータ） (2020-08-31T08:31:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。