論文の概要: PixelPrune: Pixel-Level Adaptive Visual Token Reduction via Predictive Coding

• arxiv url: http://arxiv.org/abs/2604.00886v1
• Date: Wed, 01 Apr 2026 13:33:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-02 16:44:32.006384
• Title: PixelPrune: Pixel-Level Adaptive Visual Token Reduction via Predictive Coding
• Title（参考訳）: PixelPrune: 予測符号化によるピクセルレベル適応型視覚トークン削減
• Authors: Nan Wang, Zhiwei Jin, Chen Chen, Haonan Lu,
• Abstract要約: PixelPruneは、予測符号化ベースの圧縮を通じてピクセルレベルの冗長性を利用する。 ピクセルロスレス圧縮と制御された損失圧縮をサポートする。 実験の結果、PixelPruneは最大4.2$times$推論のスピードアップを提供しながら、競争力のあるタスクの精度を維持していることがわかった。
• 参考スコア（独自算出の注目度）: 10.881130305325767
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Document understanding and GUI interaction are among the highest-value applications of Vision-Language Models (VLMs), yet they impose exceptionally heavy computational burden: fine-grained text and small UI elements demand high-resolution inputs that produce tens of thousands of visual tokens. We observe that this cost is largely wasteful -- across document and GUI benchmarks, only 22--71\% of image patches are pixel-unique, the rest being exact duplicates of another patch in the same image. We propose \textbf{PixelPrune}, which exploits this pixel-level redundancy through predictive-coding-based compression, pruning redundant patches \emph{before} the Vision Transformer (ViT) encoder. Because it operates in pixel space prior to any neural computation, PixelPrune accelerates both the ViT encoder and the downstream LLM, covering the full inference pipeline. The method is training-free, requires no learnable parameters, and supports pixel-lossless compression ($τ{=}0$) as well as controlled lossy compression ($τ{>}0$). Experiments across three model scales and document and GUI benchmarks show that PixelPrune maintains competitive task accuracy while delivering up to 4.2$\times$ inference speedup and 1.9$\times$ training acceleration. Code is available at https://github.com/OPPO-Mente-Lab/PixelPrune.
• Abstract（参考訳）: VLM(Vision-Language Models)の最も価値の高い応用は文書の理解とGUIの相互作用であるが、それらは非常に重い計算負担を課している: きめ細かいテキストと小さなUI要素は、数万の視覚トークンを生成する高解像度の入力を要求する。 ドキュメントとGUIのベンチマークでは、イメージパッチの22～71パーセントだけがピクセルユニクであり、残りは、同じイメージ内の別のパッチの正確な複製である。 本稿では,この画素レベルの冗長性を利用して,予測符号に基づく圧縮を行い,視覚変換器 (ViT) エンコーダの冗長パッチ \emph{before} をプルーニングする \textbf{PixelPrune} を提案する。 ニューラルネットワークに先立ってピクセル空間で動作するため、PixelPruneはViTエンコーダと下流LLMの両方を高速化し、完全な推論パイプラインをカバーする。 この方法はトレーニング不要で、学習可能なパラメータは不要で、ピクセルロスレス圧縮(τ{=}0$)と制御された損失圧縮(τ{>}0$)をサポートする。 3つのモデルスケールとドキュメントとGUIベンチマークの実験では、PixelPruneは4.2$\times$推論スピードアップと1.9$\times$トレーニングアクセラレーションを達成しながら、競争的なタスク精度を維持している。 コードはhttps://github.com/OPPO-Mente-Lab/PixelPruneで公開されている。

関連論文リスト

• PIO-FVLM: Rethinking Training-Free Visual Token Reduction for VLM Acceleration from an Inference-Objective Perspective [59.24570811503256]
  本稿では,視覚モデル(VLM)における冗長な視覚トークンを減らし,推論を高速化するPIO-FVLMを提案する。 提案されているPIO-FVLMは、トレーニングフリーで、FlashAttentionと互換性があり、実用的なアプリケーションやデプロイメントに親しみやすい。 LLaVA-Next-7Bでは、PIO-FVLMは視覚トークンの11.1%しか保持していないが、オリジナルのパフォーマンスの97.2%を維持している。
  論文  参考訳（メタデータ） (2026-02-04T15:33:10Z)
• PixNerd: Pixel Neural Field Diffusion [30.872185815524286]
  本稿では、ニューラルネットワークを用いてパッチワイズデコーディングをモデル化し、単一スケール、単一ステージ、効率的、エンドツーエンドのソリューションを提案する。 PixNerdの効率的なニューラルネットワーク表現のおかげで、ImageNetで2.15 FID、ImageNetで2.56times256$、2.84 FIDを、複雑なカスケードパイプラインやVAEなしで直接達成しました。
  論文  参考訳（メタデータ） (2025-07-31T06:07:20Z)
• Transformer based Pluralistic Image Completion with Reduced Information Loss [72.92754600354199]
  トランスフォーマーをベースとした手法は,近年,イメージインペイントにおいて大きな成功を収めている。 彼らは各ピクセルをトークンとみなし、情報損失の問題に悩まされる。 我々はPUTと呼ばれる新しいトランスフォーマーベースのフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-03-31T01:20:16Z)
• Reduce Information Loss in Transformers for Pluralistic Image Inpainting [112.50657646357494]
  入力情報を可能な限り保持するための新しいトランスフォーマーベースのフレームワーク"PUT"を提案する。 PUTは、特に大きなマスキング領域と複雑な大規模データセットにおいて、画像の忠実性に関する最先端の手法を大幅に上回る。
  論文  参考訳（メタデータ） (2022-05-10T17:59:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。