論文の概要: MAGIC: Marginal-Guided Compression with Optimal Transport for Efficient Visual Document Retrieval
- arxiv url: http://arxiv.org/abs/2609.21018v1
- Date: Thu, 17 Sep 2026 19:14:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-21 18:40:16.761706
- Title: MAGIC: Marginal-Guided Compression with Optimal Transport for Efficient Visual Document Retrieval
- Title（参考訳）: MAGIC: 効率的な視覚的文書検索のための最適転送によるMarginal-Guided Compression
- Abstract要約: Marginal-Guided Compression with Optimal Transport (MAGIC) は、冷凍多ベクトル埋め込みによる効率的な検索のための訓練用ポストホック圧縮機である。
MAGICは強力なポストホック圧縮機より一貫して優れており,特にアグレッシブ圧縮体制において大きな進歩を示している。
- 参考スコア（独自算出の注目度）: 21.78441659341072
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recent visual document retrieval (VDR) systems such as ColPali use multi-vector page embeddings, in which patch-level vectors enable fine-grained evidence matching but incur substantial index storage and MaxSim scoring overhead. Post-hoc merging offers a practical route to efficient VDR by reducing this cost without retraining the retriever, but its uniform reconstruction objectives are poorly aligned with the sparse, non-uniform patch usage induced by late-interaction retrieval. Under aggressive compression, this misalignment can preserve rarely used patches while concentrating retrieval activity on too few retained representatives. To address this misalignment, we propose Marginal-Guided Compression with Optimal Transport (MAGIC), a training-free post-hoc compressor for efficient retrieval with frozen multi-vector embeddings. MAGIC derives a MaxSim-induced compression surrogate and optimizes it through a two-marginal entropic optimal-transport formulation, where a retrieval-demand source marginal prioritizes high-use patches and a balanced target marginal regularizes retained-facet usage. Across ViDoRe benchmarks, keep ratios, and retrieval backbones, MAGIC consistently outperforms strong post-hoc compressors, with particularly large gains in the aggressive-compression regime; component ablations verify the complementary effects of its two marginals. We release the code at: https://github.com/xandery-geek/MAGIC.
- Abstract（参考訳）: ColPaliのような最近のビジュアル文書検索(VDR)システムでは、マルチベクターページの埋め込みが採用されている。
ポストホックマージは、レトリバーをリトレーニングすることなく、このコストを削減し、効率のよいVDRへの実践的な経路を提供するが、その均一な再構成目的は、遅延相互作用検索によって引き起こされるスパースで不均一なパッチの使用と不整合である。
積極的圧縮下では、このミスアライメントは、あまり使われないパッチを保存し、保持されていない代表者に対する検索活動に集中させることができる。
この不整合に対処するために,凍結多ベクトル埋め込みによる効率的な検索のためのトレーニング不要ポストホック圧縮機であるMaginal-Guided Compression with Optimal Transport (MAGIC)を提案する。
MAGIC は MaxSim が引き起こした圧縮サロゲートを導出し,検索要求のソースのマージンが高使用率のパッチを優先し,バランスの取れたターゲットのマージンが保持面の使用を正規化する,2重エントロピックな最適トランスポートの定式化を通じて最適化する。
ViDoReベンチマーク、キープ比、検索バックボーン全体で、MAGICは強力なポストホック圧縮機を一貫して上回り、特にアグレッシブ圧縮方式では大きな利益を上げている。
コードについては、https://github.com/xandery-geek/MAGIC.comで公開しています。
関連論文リスト
- No More K-means: Single-Stage Sparse Coding for Efficient Multi-Vector Retrieval [51.43543998583709]
SSR(Single-stage Sparse Retrieval)は、高価なクラスタリングを効率的なスパースコーディングに置き換えるパラダイムシフトである。
ColBERTv2と比較してインデックス処理時間を15倍短縮し、検索レイテンシを半減させ、同時に検索性能を向上させる。
論文 参考訳（メタデータ） (2026-05-28T15:53:34Z) - Layer-wise Token Compression for Efficient Document Reranking [18.48737466474846]
クロスエンコーダのリランカは、推論時に長いクエリドキュメントシーケンスを処理するため、高い計算コストを被る。
中間変圧器層に適応トークンプーリングを適用するレイヤワイドトークン圧縮を提案する。
また,中間層での圧縮は評価品質を保ちながら,経路ランクでは25%,文書ランクでは最大116%向上することを示した。
論文 参考訳（メタデータ） (2026-05-20T03:52:31Z) - EchoKV: Efficient KV Cache Compression via Similarity-Based Reconstruction [55.026048429595384]
EchoKVは、標準と圧縮された推論間のオンデマンド移行を可能にする柔軟なKVキャッシュ圧縮スキームである。
高速で低コストなトレーニングを可能にする2段階の微調整戦略を導入する。
論文 参考訳（メタデータ） (2026-03-24T07:58:42Z) - ReCalKV: Low-Rank KV Cache Compression via Head Reordering and Offline Calibration [69.57122277845293]
ReCalKVは,キーと値の調整を施した低ランクKVキャッシュ圧縮手法である。
キーズでは、構造的に類似した頭部をグループにクラスタリングし、より正確な低ランク近似を可能にするSimisity aware Recontext (HSR)を提案する。
本稿では,オフラインヘッドワイド値(OVC)を提案する。これはトレーニングなしでキャリブレーションデータを用いて,効率的に値予測行列を校正する。
論文 参考訳（メタデータ） (2025-05-30T08:49:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。