論文の概要: FocusVTC: Efficient and High-Performance Visual Text Compression with Adaptive Resolution
- arxiv url: http://arxiv.org/abs/2609.36651v1
- Date: Tue, 29 Sep 2026 03:51:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.166202
- Title: FocusVTC: Efficient and High-Performance Visual Text Compression with Adaptive Resolution
- Title（参考訳）: FocusVTC:適応分解能を用いた効率よく高性能なビジュアルテキスト圧縮
- Abstract要約: ビジュアルテキスト圧縮(VTC)は、テキストを画像としてレンダリングすることで入力長を削減するが、固定解像度レンダリングは圧縮性能のトレードオフを生み出す。
一般的なマルチモーダル能力を保ちながら、適応分解によってこのトレードオフを断ち切るFocusVTCを導入する。
RULER v1の72 DPIでは、FocusVTCは入力圧縮で87.4ドル、ツールの観察を含む入力圧縮で57.5ドル、Glyphは3.0時間で入力圧縮で57.5ドルである。
- 参考スコア（独自算出の注目度）: 24.61712493919991
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Long-context reasoning in large language models incurs substantial computation and memory costs. Visual text compression (VTC) reduces input length by rendering text as images, but fixed-resolution rendering creates a compression-performance trade-off: low DPI saves tokens at the expense of legibility, whereas high DPI spends tokens on irrelevant content. We introduce FocusVTC, which breaks this trade-off through adaptive resolution while preserving general multimodal capabilities. It combines compressed low-DPI global views with selective region enhancement, integrating enhanced views into ongoing reasoning. We construct 29.4K high-quality Reasoning-Evidence Localization (REL) chain-of-thought examples (REL-CoT) that link reasoning traces to page indices and bounding boxes. Multi-resolution REL supervised fine-tuning (REL-SFT) teaches the model to localize relevant regions, and Group Relative Policy Optimization learns when to enhance resolution and how to use the resulting observations, without a separate continual-pretraining stage. At 72 DPI on RULER v1, FocusVTC scores 87.4 at $2.9\times$ input compression, including tool observations, versus 57.5 for Glyph at $3.0\times$ input compression. It surpasses its text-input backbone on LongBench (56.40 versus 55.86), improves the MRCR macro-average by 13.91 points, and achieves a 51.19 macro-average on VTCBench. The MRCR latency evaluation also shows a $2.79\times$ online end-to-end speedup over Text. General multimodal capabilities are preserved, with MMMU increasing from 65.12 to 66.73 and MME from 2424.02 to 2457.62.
- Abstract（参考訳）: 大規模言語モデルにおける長文推論は、かなりの計算とメモリコストを発生させる。
ビジュアルテキスト圧縮(VTC)はテキストを画像としてレンダリングすることで入力長を減少させるが、固定解像度のレンダリングは圧縮性能のトレードオフを生み出す。
一般的なマルチモーダル能力を保ちながら、適応分解によってこのトレードオフを断ち切るFocusVTCを導入する。
圧縮された低DPIグローバルビューと選択的領域拡張を組み合わせることで、進行中の推論に拡張ビューを統合する。
ページのインデックスやバウンディングボックスに推論トレースをリンクするREL-CoT(Reasoning-Evidence Localization)チェーンを29.4Kで構築する。
マルチレゾリューション REL による微調整(REL-SFT)は、関連する領域をローカライズするモデルを教える。
RULER v1の72 DPIでは、FocusVTCは87.4ドル、ツールの観察を含む入力圧縮は29ドル、Glyphは3.0ドル、入力圧縮は57.5ドルである。
LongBenchのテキスト入力バックボーン(56.40対55.86)を超え、MRCRマクロ平均を13.91ポイント改善し、VTCBenchでは51.19マクロ平均を達成する。
MRCRレイテンシ評価では、Textよりも2.79\times$オンラインエンドツーエンドのスピードアップも表示される。
MMMUは65.12から66.73に増加し、MMEは2424.02から2457.62に増加した。
関連論文リスト
- Faster Than Flash: Exploiting Attention Sparsity for Efficient Long-Context Decoding [51.48425605758328]
我々は,Faster Flash Decoding (FFD) という,長文デコーディングにおいてメモリ壁を壊すように設計されたハードウェア・アルゴリズムの共同設計フレームワークを提示する。
FFDはセレクタとコンピュータを完全に融合したカーネルに統合し、外部メタデータのインデックスをコンテンツ認識スキャンに置き換える。
最大11.6倍のカーネルレベルのスピードアップと256Kコンテキスト長のスケーリングを実現し、2.37倍のスループット向上を実現している。
論文 参考訳（メタデータ） (2026-08-31T15:13:20Z) - Omni2LoRA: Coherence-Preserving Parametric Memory for Efficient Omni Language Models [65.49950267695267]
我々はコヒーレンス保存コンテクスト蒸留によるパラメトリックメモリの効率的な圧縮フレームワークであるOmni2LoRAを紹介する。
本手法は,マルチモーダルメモリを固定予算で再利用可能なパラメータ状態に変換することにより,応答時間のマルチモーダルトーケン負荷をゼロにする。
論文 参考訳（メタデータ） (2026-08-10T07:49:10Z) - Same Semantics, Different Paths: Self-Improving Alignment for Vision-Text Compression [7.944386069136441]
Vision-Text Compression (VTC)は、長いテキストを画像にレンダリングし、視覚エンコーダ(ViT)を介してエンコードする。
ViTは言語意味論よりも視覚的属性(グリフ、フォントサイズ、レイアウト)をキャプチャし、描画イメージ表現をネイティブテキスト表現から分離させる。
我々は、モデル自身のテキストパス動作のみを監督として使用することで、このギャップを埋める自己教師付きアライメントフレームワークであるSPIRALを提案する。
論文 参考訳（メタデータ） (2026-08-03T12:08:56Z) - MAViE: A Multi-scale Adaptive Vision Encoder for Fine-grained Visual Perception and Efficient Multimodal Reasoning [0.0]
メソッドは、グローバルなセマンティクスを保存するために、視覚変換器から浅く、中間的で、深い特徴を融合する。
次に、質問関連、ローカル情報の内容、グローバルセマンティクス、空間カバレッジに応じて、質問条件付きトークンルーティングを実行する。
SigLIP-SO400Mの視覚トークンの平均数は729から146(約80.0%)に減少し、VQAv2、GQA、TextVQA、ScienceQA-IMG、MMBenchの平均スコアを2.2%改善する。
論文 参考訳（メタデータ） (2026-07-27T13:36:08Z) - Small Vision-Language Models are Smart Compressors for Long Video Understanding [73.65465038390771]
長時間のビデオ理解は、欲求に満ちたコンテキストではなく、意図駆動の効率に頼っている。
本稿では,下流の理解のために長い動画を圧縮する効率的なクエリ認識フレームワークであるTempoを提案する。
テストでは、Tempoが1時間のビデオを理論的限界以下に圧縮し、真のロングフォームビデオ理解が意図駆動の効率に依存することを示した。
論文 参考訳（メタデータ） (2026-04-09T11:40:25Z) - ResAdapt: Adaptive Resolution for Efficient Multimodal Reasoning [28.17745103152518]
ResAdaptは入力側適応フレームワークで、エンコーディングする前に各フレームがどれだけの視覚的予算を受け取るべきかを学ぶ。
同じビジュアル予算で最大16倍のフレームをサポートし、15%以上のパフォーマンス向上を実現している。
論文 参考訳（メタデータ） (2026-03-30T15:57:32Z) - VTC-R1: Vision-Text Compression for Efficient Long-Context Reasoning [55.17170420615628]
長いコンテキスト推論は、複雑なタスクに対処するために大きな言語モデル(LLM)を著しく強化した。
本稿では,視覚テキスト圧縮を推論プロセスに統合した新しい効率的な推論パラダイムであるVTC-R1を提案する。
このアプローチは推論効率を大幅に改善し、エンドツーエンドのレイテンシで2.7倍の高速化を実現します。
論文 参考訳（メタデータ） (2026-01-29T18:07:39Z) - VisionSelector: End-to-End Learnable Visual Token Compression for Efficient Multimodal LLMs [82.72388893596555]
MLLM(Multimodal Large Language Models)は、計算とメモリのボトルネックに遭遇する。
従来のトークン圧縮技術は、重要な情報を破棄するリスクを負うルールによって制約されることが多い。
我々は,トークン圧縮をエンドツーエンドの学習可能な決定プロセスに再構成する軽量なプラグアンドプレイフレームワークとして,トークン圧縮を再構成する。
論文 参考訳（メタデータ） (2025-10-18T17:54:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。