論文の概要: PixelPrune: Pixel-Level Adaptive Visual Token Reduction via Predictive Coding

• arxiv url: http://arxiv.org/abs/2604.00886v1
• Date: Wed, 01 Apr 2026 13:33:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-02 16:44:32.006384
• Title: PixelPrune: Pixel-Level Adaptive Visual Token Reduction via Predictive Coding
• Title（参考訳）: PixelPrune: 予測符号化によるピクセルレベル適応型視覚トークン削減
• Abstract要約: PixelPruneは、予測符号化ベースの圧縮を通じてピクセルレベルの冗長性を利用する。 ピクセルロスレス圧縮と制御された損失圧縮をサポートする。 実験の結果、PixelPruneは最大4.2$times$推論のスピードアップを提供しながら、競争力のあるタスクの精度を維持していることがわかった。
• 参考スコア（独自算出の注目度）: 10.881130305325767
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Document understanding and GUI interaction are among the highest-value applications of Vision-Language Models (VLMs), yet they impose exceptionally heavy computational burden: fine-grained text and small UI elements demand high-resolution inputs that produce tens of thousands of visual tokens. We observe that this cost is largely wasteful -- across document and GUI benchmarks, only 22--71\% of image patches are pixel-unique, the rest being exact duplicates of another patch in the same image. We propose \textbf{PixelPrune}, which exploits this pixel-level redundancy through predictive-coding-based compression, pruning redundant patches \emph{before} the Vision Transformer (ViT) encoder. Because it operates in pixel space prior to any neural computation, PixelPrune accelerates both the ViT encoder and the downstream LLM, covering the full inference pipeline. The method is training-free, requires no learnable parameters, and supports pixel-lossless compression ($τ{=}0$) as well as controlled lossy compression ($τ{>}0$). Experiments across three model scales and document and GUI benchmarks show that PixelPrune maintains competitive task accuracy while delivering up to 4.2$\times$ inference speedup and 1.9$\times$ training acceleration. Code is available at https://github.com/OPPO-Mente-Lab/PixelPrune.
• Abstract（参考訳）: VLM(Vision-Language Models)の最も価値の高い応用は文書の理解とGUIの相互作用であるが、それらは非常に重い計算負担を課している: きめ細かいテキストと小さなUI要素は、数万の視覚トークンを生成する高解像度の入力を要求する。 ドキュメントとGUIのベンチマークでは、イメージパッチの22～71パーセントだけがピクセルユニクであり、残りは、同じイメージ内の別のパッチの正確な複製である。 本稿では,この画素レベルの冗長性を利用して,予測符号に基づく圧縮を行い,視覚変換器 (ViT) エンコーダの冗長パッチ \emph{before} をプルーニングする \textbf{PixelPrune} を提案する。 ニューラルネットワークに先立ってピクセル空間で動作するため、PixelPruneはViTエンコーダと下流LLMの両方を高速化し、完全な推論パイプラインをカバーする。 この方法はトレーニング不要で、学習可能なパラメータは不要で、ピクセルロスレス圧縮(τ{=}0$)と制御された損失圧縮(τ{>}0$)をサポートする。 3つのモデルスケールとドキュメントとGUIベンチマークの実験では、PixelPruneは4.2$\times$推論スピードアップと1.9$\times$トレーニングアクセラレーションを達成しながら、競争的なタスク精度を維持している。 コードはhttps://github.com/OPPO-Mente-Lab/PixelPruneで公開されている。

関連論文リスト

• UIPress: Bringing Optical Token Compression to UI-to-Code Generation [2.462537008029033]
  UI-to-Code生成のための軽量な学習圧縮モジュールを提案する。 UIPressは、奥行き分離可能な畳み込み、要素誘導空間再重み付け、トランスフォーマーの改良を組み合わせて、ビジュアルトークンを256の固定予算に圧縮する。 我々の知る限りでは、UI-to-Codeタスクのための最初のエンコーダ側の学習圧縮メソッドである。
  論文  参考訳（メタデータ） (2026-04-10T15:58:31Z)
• Representation Alignment for Just Image Transformers is not Easier than You Think [25.669017380539064]
  Representation Alignment (REPA) は、潜時空間における拡散変換器の訓練を加速する簡単な方法として登場した。 本稿では、Just Image Transformers (JiT) に対してREPAがフェール可能であることを示す。 我々は,Masked Transformer Adapter を用いてアライメントターゲットと制約アライメントを変換する PixelREPA を提案する。
  論文  参考訳（メタデータ） (2026-03-15T13:08:31Z)
• ProGIC: Progressive and Lightweight Generative Image Compression with Residual Vector Quantization [59.481950697968706]
  残留ベクトル量子化(RVQ)に基づくコンパクトなプログレッシブ生成画像圧縮(ProGIC)を提案する。 RVQでは、ベクトル量子化器の列がステージごとに残余を符号化し、それぞれが独自のコードブックを持つ。 これを奥行き分離可能な畳み込みと小さな注意ブロックに基づく軽量なバックボーンと組み合わせることで、GPUとCPUのみのデバイスに実用的なデプロイを可能にします。
  論文  参考訳（メタデータ） (2026-03-03T11:47:05Z)
• PIO-FVLM: Rethinking Training-Free Visual Token Reduction for VLM Acceleration from an Inference-Objective Perspective [59.24570811503256]
  本稿では,視覚モデル(VLM)における冗長な視覚トークンを減らし,推論を高速化するPIO-FVLMを提案する。 提案されているPIO-FVLMは、トレーニングフリーで、FlashAttentionと互換性があり、実用的なアプリケーションやデプロイメントに親しみやすい。 LLaVA-Next-7Bでは、PIO-FVLMは視覚トークンの11.1%しか保持していないが、オリジナルのパフォーマンスの97.2%を維持している。
  論文  参考訳（メタデータ） (2026-02-04T15:33:10Z)
• PixelVLA: Advancing Pixel-level Understanding in Vision-Language-Action Model [59.32370587806426]
  VLA(Vision-Language-Action Model)は、一般化可能なビジュモータ制御ポリシーを学習するための強力なツールとして登場している。 我々は、ピクセルレベルの推論とテキストと視覚入力によるマルチモーダルプロンプトの両方をサポートするように設計された最初のVLAモデルであるPixelVLAを紹介する。 提案手法は,マルチスケールの画素認識エンコーダと視覚的プロンプトエンコーダを統合した,新しいビジュモータ・インストラクション・チューニング・フレームワークに基づいている。
  論文  参考訳（メタデータ） (2025-11-03T13:39:37Z)
• PixNerd: Pixel Neural Field Diffusion [30.872185815524286]
  本稿では、ニューラルネットワークを用いてパッチワイズデコーディングをモデル化し、単一スケール、単一ステージ、効率的、エンドツーエンドのソリューションを提案する。 PixNerdの効率的なニューラルネットワーク表現のおかげで、ImageNetで2.15 FID、ImageNetで2.56times256$、2.84 FIDを、複雑なカスケードパイプラインやVAEなしで直接達成しました。
  論文  参考訳（メタデータ） (2025-07-31T06:07:20Z)
• Transformer based Pluralistic Image Completion with Reduced Information Loss [72.92754600354199]
  トランスフォーマーをベースとした手法は,近年,イメージインペイントにおいて大きな成功を収めている。 彼らは各ピクセルをトークンとみなし、情報損失の問題に悩まされる。 我々はPUTと呼ばれる新しいトランスフォーマーベースのフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-03-31T01:20:16Z)
• Reduce Information Loss in Transformers for Pluralistic Image Inpainting [112.50657646357494]
  入力情報を可能な限り保持するための新しいトランスフォーマーベースのフレームワーク"PUT"を提案する。 PUTは、特に大きなマスキング領域と複雑な大規模データセットにおいて、画像の忠実性に関する最先端の手法を大幅に上回る。
  論文  参考訳（メタデータ） (2022-05-10T17:59:58Z)
• PixelFolder: An Efficient Progressive Pixel Synthesis Network for Image Generation [88.55256389703082]
  Pixelは画像生成のための有望な研究パラダイムである。 本稿では,Pixel のような効率的な画像生成に向けたプログレッシブピクセル合成ネットワークを提案する。 Pixelは支出を大幅に減らし、2つのベンチマークデータセットで新しい最先端(SOTA)パフォーマンスを得る。
  論文  参考訳（メタデータ） (2022-04-02T10:55:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。