論文の概要: Just Respect the Semantics: Image-Token Compression via Pre-LLM Semantic Variable-Resolution Tokenization and In-LLM Relevance Pruning

• arxiv url: http://arxiv.org/abs/2610.18690v2
• Date: Wed, 21 Oct 2026 04:34:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-23 00:40:05.948052
• Title: Just Respect the Semantics: Image-Token Compression via Pre-LLM Semantic Variable-Resolution Tokenization and In-LLM Relevance Pruning
• Title（参考訳）: セマンティックスを直観する:プレLLMセマンティック可変解解トークン化とインLLM関連プルーニングによるイメージトーケン圧縮
• Abstract要約: セマンティック・ファジビリティによってガイドされるVarestを紹介します。 Varestは初期デコーダ処理後に視覚トークンを発行する。 バラエティは、評価された予算ごとに平均的なパフォーマンス維持で15のベースラインを上回ります。
• 参考スコア（独自算出の注目度）: 4.3151459539933255
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Image-token compression must reduce computation without hurting the semantics. We introduce Varest, guided by semantic fungibility: tokens within a coherent semantic region can be summarized coarsely, while object boundaries and literal text require finer distinctions. Object and text localizers guide variable-resolution merging, preserving spatial coverage and finer detail at boundaries and text. Learned [REL] registers then prune visual tokens after early decoder processing. Training across budgets enables one checkpoint per backbone. Across three backbones and 13 benchmarks, Varest outperforms 15 baselines in mean performance retention at every evaluated budget, retaining 86.10-92.33% of full-token performance with only 5.56% of the original layer-averaged image-token count.
• Abstract（参考訳）: 画像への圧縮は、セマンティクスを損なうことなく計算を減らさなければならない。 一貫性のあるセマンティック領域内のトークンは粗く要約できるが、オブジェクト境界とリテラルテキストはより微細な区別を必要とする。 オブジェクトとテキストローカライザは、可変解像度のマージをガイドし、空間カバレッジと境界とテキストの細部を保存します。 Learned[REL]は、初期デコーダ処理後に、次にプルーフなビジュアルトークンを登録する。 予算を越えたトレーニングは、バックボーン毎に1つのチェックポイントを可能にします。 3つのバックボーンと13のベンチマークで、バラエストは評価された予算ごとに平均15のベースラインを上回り、86.10-92.33%のフルトーケン性能を維持し、元のレイヤ平均イメージトーケン数の5.56%しか保持していない。

関連論文リスト

• Semantically Steerable Image Tokenization [70.65642192591649]
  GIST (Guided Image Semantic Tokenizer) は、要求されたセマンティック忠実性に向けて操ることのできる適応型トークンである。 セマンティックターゲットをゼロに固定することにより、画像の描写を保存しつつ、再構成ターゲットを緩和して画素の詳細を破棄することができる。
  論文  参考訳（メタデータ） (2026-10-11T10:30:13Z)
• Look Back, Think Ahead: Visual Memory on Demand for Efficient Multimodal Reasoning [67.2146856614177]
  ViMoDは、推論が進化するにつれて、元のきめ細かい証拠へのアクセスを保ちながら、コンパクトな視覚コンテキストを維持する軽量フレームワークである。 Qwen3-VL-4Bでは、ViMoDは8つの推論ベンチマークのベースラインを20%の視覚トークン予算で上回っている。
  論文  参考訳（メタデータ） (2026-10-08T14:42:57Z)
• SparseTalk - Sparsifying 3D Gaussian Language Fields for Efficient 3D Visual Question Answering [3.8163171439699415]
  3次元ガウス言語フィールドは、3次元視覚的質問応答を明示的かつ空間的に基礎づけた表現を提供する。 これらの密集したセマンティック機能は、シーン毎に数万の埋め込みを必要とする可能性があるため、かなりのストレージ、メモリ、推論コストがかかる。 下流の推論において,この表現が実際にどの程度必要かを検討する。
  論文  参考訳（メタデータ） (2026-09-14T07:10:50Z)
• SegRAG: Training-Free Retrieval-Augmented Semantic Segmentation [13.665861251747144]
  SegRAGは、トレーニング不要の検索拡張セグメンテーションフレームワークである。 SAM3には、DINOv3機能バンクから派生したクラス固有のポイントプロンプトがある。 4つの標準ベンチマークでは、SegRAGはテキストのみのベースラインを一貫して上回っている。
  論文  参考訳（メタデータ） (2026-05-17T19:51:32Z)
• Evading Visual Aphasia: Contrastive Adaptive Semantic Token Pruning for Vision-Language Models [52.78477729846771]
  本稿では,COAST(Contrastive Adaptive Semantic Token Pruning)について紹介する。 COASTはトークン予算をまたいだ強力なプルーニングベースラインを一貫して上回り、複数のLVLMファミリをまたいだ一般化を実現している。
  論文  参考訳（メタデータ） (2026-05-10T09:07:04Z)
• LESS: Label-Efficient and Single-Stage Referring 3D Segmentation [55.06002976797879]
  参照3Dは、クエリの文で記述された3Dポイントクラウドから、指定されたオブジェクトのすべてのポイントをセグメントする視覚言語タスクである。 本稿では,LESSと呼ばれるレファレンス3次元パイプラインを提案する。 ScanReferデータセット上での最先端のパフォーマンスは、バイナリラベルのみを使用して、以前の3.7% mIoUの手法を上回ります。
  論文  参考訳（メタデータ） (2024-10-17T07:47:41Z)
• Improving fine-grained understanding in image-text pre-training [37.163228122323865]
  SPARse Fine-fine Contrastive Alignment (SPARC) は、画像とテキストのペアからよりきめ細かなマルチモーダル表現を事前学習する簡単な方法である。 粗い情報に依存した画像レベルのタスクに対して、競合するアプローチよりも優れた性能を示す。
  論文  参考訳（メタデータ） (2024-01-18T10:28:45Z)
• Tokenize Anything via Prompting [65.93061853439512]
  我々は,任意のものを同時にセグメンテーションし,認識し,キャプションすることができる統一的,迅速なモデルを提案する。 我々は、50億のパラメータを持つ事前学習されたCLIPモデルから、巨大なセグメンテーションマスク、eg、SA-1Bマスク、セマンティックプリミティブを持つ一般化可能なモデルをトレーニングする。 我々は,このモデルが汎用領域コンテキストを符号化できる汎用領域レベルの画像トークン化器であると考えている。
  論文  参考訳（メタデータ） (2023-12-14T17:01:02Z)
• STAIR: Learning Sparse Text and Image Representation in Grounded Tokens [84.14528645941128]
  疎結合なセマンティック表現を構築することは、密度の高いプレゼンテーションと同程度、あるいはそれ以上に強力であることを示す。 CLIPモデルを拡張してスパーステキストと画像表現(STAIR)を構築し、画像とテキストをスパーストークン空間にマッピングする。 CLIPモデルでは、+4.9%$と+4.3%$絶対リコール@1の改善で大幅にパフォーマンスが向上した。
  論文  参考訳（メタデータ） (2023-01-30T17:21:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。