論文の概要: Bottlenecked semantic compression by representation reconstruction

• arxiv url: http://arxiv.org/abs/2610.17412v1
• Date: Mon, 12 Oct 2026 21:24:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.458218
• Title: Bottlenecked semantic compression by representation reconstruction
• Title（参考訳）: 表現再構成によるボットネック型セマンティック圧縮
• Abstract要約: ビジョントランスフォーマーは、長い視覚トークンシーケンスを処理する際に高い計算コストを発生させる。 視覚的トークン凝縮のための再構成誘導型フレームワーク(ReConV)を提案する。
• 参考スコア（独自算出の注目度）: 16.600324183059694
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Vision Transformers incur high computational costs when processing long visual token sequences. Existing reduction methods typically rank tokens independently and discard those deemed unimportant or redundant. We propose a reconstruction-guided framework for visual token condensation (ReConV), which summarizes the complete visual sequence with a compact Summary Bank (SMB) and retains tokens whose information is not adequately captured by the SMB, as indicated by their reconstruction residuals. At each compression layer, a lightweight position-conditioned decoder reconstructs the current tokens, leaving shared information compressed in the SMB while explicitly preserving poorly reconstructed details. Experiments on image classification and multimodal understanding demonstrate favorable performance-efficiency trade-offs: ReConV surpasses the uncompressed baseline with 48\% fewer GMACs on ImageNet and enables reusable image-level representations for efficient multi-turn inference. Code is available at TokenDrop.
• Abstract（参考訳）: ビジョントランスフォーマーは、長い視覚トークンシーケンスを処理する際に高い計算コストを発生させる。 既存の還元法は通常、トークンを独立してランク付けし、重要でないと見なされるものを破棄する。 本稿では,コンパクトな要約バンク (SMB) で完全な視覚的シーケンスを要約し,その復元残差が示すように,SMBが適切に取得していないトークンを保持する,視覚的トークン凝縮 (ReConV) のための再構築誘導フレームワークを提案する。 各圧縮層では、軽量な位置条件デコーダが現在のトークンを再構成し、共有情報をSMBに圧縮し、あまり再構成されていない詳細を明示的に保存する。 ReConVは圧縮されていないベースラインを越え、ImageNet上で48\%のGMACを削減し、効率的なマルチターン推論のための再利用可能な画像レベルの表現を可能にします。 コードはTokenDropで入手できる。

関連論文リスト

• Semantically Steerable Image Tokenization [70.65642192591649]
  GIST (Guided Image Semantic Tokenizer) は、要求されたセマンティック忠実性に向けて操ることのできる適応型トークンである。 セマンティックターゲットをゼロに固定することにより、画像の描写を保存しつつ、再構成ターゲットを緩和して画素の詳細を破棄することができる。
  論文  参考訳（メタデータ） (2026-10-11T10:30:13Z)
• Just MLPs: Efficient Visual State Reconstruction for Multimodal Language Models [53.964810481070636]
  大規模言語モデル(MLLM)における計算オーバーヘッドのかなりの部分を占める長い視覚トークンシーケンス 既存のアプローチは、冗長な視覚トークンを刈り取ることでこのコストを削減するが、その後のレイヤで有用になる可能性のある視覚的証拠を永久に破棄する。 視覚トークンの繰り返しトランスフォーマー進化を軽量な低ランクアダプタに置き換える$-Visionを提案する。
  論文  参考訳（メタデータ） (2026-09-28T11:52:45Z)
• CoViST: Visual Token Compression via Composable States [91.81026074575016]
  視覚トークン圧縮は、少ないトークンで画像を表現することで、視覚モデルの推論コストを下げる。 既存のほとんどの方法は、視覚的トークンを縮小された集合に圧縮し、それぞれのトークンで表される視覚的証拠の量を暗黙的に残している。 圧縮された画像を構成可能な視覚状態として表現する訓練不要のフレームワークであるCoViSTを提案する。
  論文  参考訳（メタデータ） (2026-09-27T09:22:14Z)
• VisCo: Leveraging Large Language Models as Intrinsic Encoders for Visual Token Compression [52.23010472235226]
  視覚言語モデル(VLM)は大量の視覚トークンを処理し、かなりの推論とオーバーヘッドレイテンシをもたらす。 本稿では,VLM自体を固有圧縮機として再利用する,トレーニング効率のよい自己圧縮フレームワークであるVisCoを提案する。
  論文  参考訳（メタデータ） (2026-07-14T13:21:36Z)
• SFTok: Bridging the Performance Gap in Discrete Tokenizers [72.9996757048065]
  複数ステップの反復機構を組み込んだ離散トークン化機構である textbfSFTok を提案する。 画像当たり64トークンの高速圧縮速度で、SFTokはImageNetの最先端の再構築品質を達成する。
  論文  参考訳（メタデータ） (2025-12-18T18:59:04Z)
• CORE: Compact Object-centric REpresentations as a New Paradigm for Token Merging in LVLMs [29.08277140543501]
  視覚的トークン圧縮のための新しいパラダイムであるCORE(Compact Object-centric Representation)を紹介する。 COREは効率的なセグメンテーションデコーダを利用してオブジェクトマスクを生成する。 実験により、COREは固定レート圧縮のための6つの信頼性ベンチマークに対して新しい最先端のベンチマークを確立するだけでなく、適応レート設定において劇的な効率向上を達成することが示された。
  論文  参考訳（メタデータ） (2025-11-18T03:02:23Z)
• Extremely low-bitrate Image Compression Semantically Disentangled by LMMs from a Human Perception Perspective [12.321609213934389]
  人間のプログレッシブ・コンプレッション・メカニズムにインスパイアされたセマンティック・ディスタングル・イメージ・圧縮フレームワークを提案する。 我々はLMMを利用して、全体記述、オブジェクト詳細記述、セマンティックセグメンテーションマスクを含む重要なセマンティックコンポーネントを抽出する。 本研究では,事前学習したControlNet上に構築され,オブジェクトレベルのテキスト記述やセマンティックマスクによって条件付けられたオブジェクトの詳細を復元する,注意誘導型オブジェクト復元モデルを提案する。
  論文  参考訳（メタデータ） (2025-03-01T08:27:11Z)
• Neural Image Compression Using Masked Sparse Visual Representation [17.229601298529825]
  本研究では,Sparse Visual Representation (SVR) に基づくニューラル画像圧縮について検討し,学習されたビジュアルコードブックにまたがる離散潜在空間に画像が埋め込まれた。 コードブックをデコーダと共有することにより、エンコーダは効率的でクロスプラットフォームなコードワードインデックスを転送する。 本稿では,マスクを潜在機能部分空間に適用して品質のバランスと再構築を行うMasked Adaptive Codebook Learning (M-AdaCode)法を提案する。
  論文  参考訳（メタデータ） (2023-09-20T21:59:23Z)
• Modeling Lost Information in Lossy Image Compression [72.69327382643549]
  ロスシー画像圧縮は、デジタル画像の最もよく使われる演算子の1つである。 Invertible Lossy Compression (ILC) と呼ばれる新しい非可逆的フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-06-22T04:04:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。