論文の概要: Foveated Compression: Selective High-Resolution Preservation for Token-Efficient VLMs

• arxiv url: http://arxiv.org/abs/2610.07729v1
• Date: Tue, 06 Oct 2026 04:28:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 02:58:29.799307
• Title: Foveated Compression: Selective High-Resolution Preservation for Token-Efficient VLMs
• Title（参考訳）: トーケン高効率VLMの選択的高分解能保存
• Abstract要約: 我々はFoveated Compressionを紹介し、フル解像度画像を一度エンコードし、それをネイティブと圧縮されたビジュアルトークンの混合で表現する。 行動的に自己蒸留されたFoveated Mergerは、ローカルなビジュアルトークンを圧縮し、ネイティブなトークンとの互換性を保つ。 軽量なFoveated Selectorは、徹底的な予算整合による介入監視を用いて、9つの空間セルのうちの1つをネイティブ解像度で保持する。
• 参考スコア（独自算出の注目度）: 3.5138471254350816
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Visual tokens are a major source of inference cost in vision-language models, yet simple image downsampling remains a surprisingly strong compression baseline. This raises a complementary question: under a fixed token budget, where should visual fidelity be preserved? We introduce Foveated Compression, which encodes a full-resolution image once and represents it with a mixture of native- and compressed-resolution visual tokens. A behaviorally self-distilled Foveated Merger compresses local visual tokens while preserving compatibility with their native counterparts, and a lightweight Foveated Selector chooses one of nine spatial cells to retain at native resolution using exhaustive budget-matched intervention supervision. At 11.11% visual tokens, uniform Foveated Compression shows no significant paired difference from iso-token downsampling. At 20.99%, the learned selector significantly outperforms random and fixed allocation, but remains below strong whole-image resizing, showing that localized fidelity is not universally preferable. A budget-matched region-choice oracle reaches 82.73 macro accuracy versus 69.61 for the learned selector, revealing substantial headroom within the same spatial action space. Matched probing further shows that signals predicting when compression breaks the answer are substantially more accessible after language-model computation than to the lightweight prefill-free selector. These results expose complementary bottlenecks in region selection and compressed-region fidelity.
• Abstract（参考訳）: ビジュアルトークンは視覚言語モデルの主要な推論コスト源であるが、単純なイメージダウンサンプリングは驚くほど強力な圧縮ベースラインのままである。 固定されたトークン予算の下では、視覚的忠実性はどこに保存されるべきなのか? 我々はFoveated Compressionを紹介し、フル解像度画像を一度エンコードし、それをネイティブと圧縮されたビジュアルトークンの混合で表現する。 行動的に自己蒸留されたFoveated Mergerは、ネイティブとの互換性を維持しながら局所的な視覚トークンを圧縮し、軽量なFoveated Selectorは、徹底的な予算整合による介入監視を用いて、ネイティブ解像度で保持する9つの空間セルのうちの1つを選択する。 11.11%の視覚トークンでは、均一なFoveated Compressionはアイソトーケンのダウンサンプリングと有意な差は示さない。 20.99%では、学習されたセレクタはランダムなアロケーションや固定されたアロケーションよりも大幅に優れるが、強い全体像のリサイズ以下であり、局所化された忠実さは普遍的に好ましくないことを示している。 予算整合領域選択オラクルは、学習したセレクタに対して82.73マクロ精度で69.61に到達し、同じ空間行動空間内にかなりのヘッドルームが現れる。 マッチングされた探索により、圧縮が解答を破ったときの信号は、軽量プリフィルフリーセレクタよりも言語モデル計算後にかなりアクセスしやすくなった。 これらの結果は,領域選択と圧縮領域忠実度において相補的なボトルネックを呈する。

関連論文リスト

• CoViST: Visual Token Compression via Composable States [91.81026074575016]
  視覚トークン圧縮は、少ないトークンで画像を表現することで、視覚モデルの推論コストを下げる。 既存のほとんどの方法は、視覚的トークンを縮小された集合に圧縮し、それぞれのトークンで表される視覚的証拠の量を暗黙的に残している。 圧縮された画像を構成可能な視覚状態として表現する訓練不要のフレームワークであるCoViSTを提案する。
  論文  参考訳（メタデータ） (2026-09-27T09:22:14Z)
• AnchorPrune: Relevance-Anchored Contextual Expansion for Visual Token Pruning [8.862195491555575]
  大規模な視覚言語モデルは、高解像度の入力が数千の視覚トークンをもたらすため、かなりの推論コストを発生させる。 トレーニング不要のフレームワークであるAnchorPruneを紹介します。 LLaVA-NeXT-7Bでは、AnchorPruneは2,880個の視覚トークンのうち160個しか使用せず、97.6%のフルトーケン性能を維持している。
  論文  参考訳（メタデータ） (2026-07-08T06:07:06Z)
• PARCEL: Pool-Anchored Resampling with Conditioned Elastic Queries for Efficient Vision-Language Understanding [88.17174909130188]
  LVLM(Large Vision-Language Models)は、視覚的な入力を高密度なトークンシーケンスにマッピングし、推論に二次的な計算ボトルネックを与える。 特徴抽出の労力を動的に分配する視覚トークン化アーキテクチャであるPARCELを紹介する。 PARCELは、既存のマトリシカベースラインを「一度にトレーニングし、どこにでもデプロイする」パラダイムを保ちながら、視覚障害者の予算で一貫して上回っていることを示す。
  論文  参考訳（メタデータ） (2026-05-28T15:57:31Z)
• Balancing Saliency and Coverage: Semantic Prominence-Aware Budgeting for Visual Token Compression in VLMs [44.02979403592988]
  セマンティック・プロミネンス・アウェアの予算配分と2段階選択パイプラインからなるサンプル適応型ビジュアルトークン選択フレームワークを提案する。 LLaVA-NeXT-7Bでは、FLOPを88%、プリフィル遅延を22%削減し、元の精度の97.5%を保存した。
  論文  参考訳（メタデータ） (2026-03-16T06:44:45Z)
• Prune Redundancy, Preserve Essence: Vision Token Compression in VLMs via Synergistic Importance-Diversity [54.95089105944234]
  視覚言語モデル(VLM)は、過剰な視覚トークンの生成によって引き起こされる計算の非効率性に直面する。 2段階パイプラインを特徴とする訓練不要なSynergistic Importance-DiversityアプローチPruneSIDを提案する。 LLaVA-NeXTでは11.1%のトークン保持率で96.3%の精度、極端な圧縮速度(5.6%)で92.8%の精度を実現した。
  論文  参考訳（メタデータ） (2026-03-10T10:31:58Z)
• On the Adversarial Robustness of Large Vision-Language Models under Visual Token Compression [22.436953683970007]
  既存のエンコーダベースの攻撃は、圧縮視覚言語モデル(LVLM)の堅牢性を大幅に過大評価できることを示す。 本稿では, 圧縮機構やトークンの予算を仮定することなく, 摂動最適化と圧縮推論を一致させる圧縮-AliGnEd攻撃(CAGE)を提案する。
  論文  参考訳（メタデータ） (2026-01-29T10:47:21Z)
• VisionSelector: End-to-End Learnable Visual Token Compression for Efficient Multimodal LLMs [82.72388893596555]
  MLLM(Multimodal Large Language Models)は、計算とメモリのボトルネックに遭遇する。 従来のトークン圧縮技術は、重要な情報を破棄するリスクを負うルールによって制約されることが多い。 我々は,トークン圧縮をエンドツーエンドの学習可能な決定プロセスに再構成する軽量なプラグアンドプレイフレームワークとして,トークン圧縮を再構成する。
  論文  参考訳（メタデータ） (2025-10-18T17:54:18Z)
• ExGS: Extreme 3D Gaussian Compression with Diffusion Priors [60.7245825868903]
  エクストリーム3DGS圧縮のためのExGSとGaussPainterを紹介する。 GassPainterは、欠落した領域を埋め、可視画素を強化し、劣化したレンダリングを大幅に改善する。 私たちのフレームワークは100X圧縮(典型的な354.77MBモデルから約3.31MBまで)も達成できます。
  論文  参考訳（メタデータ） (2025-09-29T13:23:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。