論文の概要: Coverage Matters: MarginMerge for Compressing Multi-Vector Visual Document Retrievers
- arxiv url: http://arxiv.org/abs/2608.02969v1
- Date: Tue, 04 Aug 2026 00:05:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-06 07:04:20.6833
- Title: Coverage Matters: MarginMerge for Compressing Multi-Vector Visual Document Retrievers
- Title(参考訳): カバレッジの問題:マルチベクタのビジュアルドキュメントリトリバーを圧縮するMarginMerge
- Abstract要約: 冷凍多ベクトルレシーバの圧縮法であるMarginMergeを紹介する。
カバレッジ対応アンカー、クラスタドキュメントパッチを選択し、軽量な共有ネットワークを使用してクラスタ毎に1つの代表を合成する。
ColQwen2.5とColPaliの2つのデータセットで、MarginMergeは5%と10%のベクトル保持で一致したクエリ非依存の平均を達成している。
- 参考スコア(独自算出の注目度): 9.219654543285145
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multi-vector visual document retrievers such as ColPali and ColQwen achieve strong retrieval by storing fine-grained patch embeddings, but this produces large indexes and costly late-interaction scoring. We argue that effective compression should preserve query-relevant coverage, meaning the diverse document regions that may become the strongest MaxSim match across queries, rather than selecting patches independently by salience. This view also explains why dense rendered pages are easier to compress than natural images. We introduce MarginMerge, a compression method for frozen multi-vector retrievers. It selects coverage-aware anchors, clusters document patches, and uses a lightweight shared network to synthesize one representative per cluster. Compression is performed once during indexing, while retrieval keeps the standard MaxSim interface. Across six datasets on both ColQwen2.5 and ColPali, MarginMerge achieves the highest matched query-agnostic average at 5% and 10% vector retention. Compared with the uncompressed index using the same backbone, it preserves between 97% and 99% of average nDCG@5 while reducing stored document vectors by between 90% and 95%. At 5% retention, it also reduces ranking flips relative to geometric merging on all six ColQwen2.5 datasets by approximately 41% on average. The same model transfers to unseen datasets and retention ratios without retraining.
- Abstract(参考訳): ColPali や ColQwen のようなマルチベクトルビジュアル文書検索器は、きめ細かいパッチ埋め込みを格納することで強力な検索を実現するが、これは大きなインデックスを生成し、遅延処理のスコアリングにコストがかかる。
効率のよい圧縮はクエリ関連カバレッジを保持するべきだと我々は主張する。つまり、サリエンスによって独立してパッチを選択するのではなく、クエリ間で最も強力なMaxSimマッチングになる可能性のある、多様なドキュメント領域である。
このビューはまた、高密度レンダリングページが自然画像よりも圧縮しやすい理由を説明している。
冷凍多ベクトルレシーバの圧縮法であるMarginMergeを紹介する。
カバレッジ対応アンカー、クラスタドキュメントパッチを選択し、軽量な共有ネットワークを使用してクラスタ毎に1つの代表を合成する。
圧縮はインデックス作成中に一度行われ、検索は標準のMaxSimインターフェイスを保持する。
ColQwen2.5とColPaliの両方の6つのデータセットで、MarginMergeは5%と10%のベクトル保持で一致したクエリ非依存の平均を達成している。
同じバックボーンを使用した非圧縮インデックスと比較して、平均的なnDCG@5の97%から99%を保存し、保存されたドキュメントベクトルを90%から95%削減する。
5%の保持で、6つのColQwen2.5データセットの幾何学的マージに対するランクフリップを平均で約41%削減する。
同じモデルは、再トレーニングすることなく、目に見えないデータセットと保持率に転送される。
関連論文リスト
- Improving Long-Context Retrieval with Multi-Prefix Embedding [64.08968715893504]
Multi-Prefix Embeddingは、ドキュメントをEOSトークンで区切られたチャンクに分割し、完全なシーケンスを単一の因果フォワードパスにエンコードし、各プレフィックス境界に1つの埋め込みを抽出する。
MPEはクロスチャンクコンテキストを保持し、チャンクレベルのMaxSimマッチングを可能にし、ドキュメントレベルの関連ラベルのみをトレーニングする。
論文 参考訳(メタデータ) (2026-06-22T17:31:02Z) - No More K-means: Single-Stage Sparse Coding for Efficient Multi-Vector Retrieval [51.43543998583709]
SSR(Single-stage Sparse Retrieval)は、高価なクラスタリングを効率的なスパースコーディングに置き換えるパラダイムシフトである。
ColBERTv2と比較してインデックス処理時間を15倍短縮し、検索レイテンシを半減させ、同時に検索性能を向上させる。
論文 参考訳(メタデータ) (2026-05-28T15:53:34Z) - Multi-Vector Index Compression in Any Modality [73.7330345057813]
後期の相互作用は、テキスト、画像、ビジュアルドキュメント、ビデオにおける情報検索の主要なパラダイムとして現れてきた。
インデックス圧縮には,シーケンスリサイズ,メモリトークン,階層プール,新しいアテンション誘導クラスタリング(AGC)の4つのアプローチを導入する。
AGCは、ドキュメントの最もセマンティックな領域をクラスタセントロイドとして識別し、トークンの集合を重み付けするために注意誘導機構を使用する。
論文 参考訳(メタデータ) (2026-02-24T18:57:33Z) - Beyond RAG for Agent Memory: Retrieval by Decoupling and Aggregation [22.803751188961865]
検索は類似性マッチングを超えて移動し、代わりに潜在コンポーネントを操作するべきだと我々は主張する。
我々は、無傷ユニットの階層を構築し、検索可能な高レベルノード組織を維持するxMemoryを提案する。
論文 参考訳(メタデータ) (2026-02-02T12:04:58Z) - Beyond Patch Aggregation: 3-Pass Pyramid Indexing for Vision-Enhanced Document Retrieval [0.0]
ドキュメント中心のRAGパイプラインは通常、OCRから始まり、次にチャンキング、テーブル解析、レイアウト再構築のための脆さが続く。
我々は,OCRフリーかつモデル非依存なマルチモーダル検索システムであるVisionRAGを紹介する。
VisionRAGは、ドキュメントを直接イメージとしてインデックスし、レイアウト、テーブル、空間的なキューを保存し、特定の抽出にコミットすることなくセマンティックベクターを構築する。
論文 参考訳(メタデータ) (2025-11-26T07:18:06Z) - CoRECT: A Framework for Evaluating Embedding Compression Techniques at Scale [0.0]
CoRECTは埋め込み圧縮手法の大規模評価のためのフレームワークである。
非学習圧縮は,最大100万パスにおいても,インデックスサイズを大幅に削減できることを示す。
論文 参考訳(メタデータ) (2025-10-22T08:03:31Z) - Rethinking Large-scale Dataset Compression: Shifting Focus From Labels to Images [60.42768987736088]
蒸留と刈り取りの両文献の方法論を公平に評価するベンチマークを導入する。
我々のベンチマークでは、大規模データセットの主流データセット蒸留設定において、ランダムに選択されたサブセットでさえ驚くほどの競争性能を達成できることが示されている。
我々は、画像データのみを活用することに焦点を当てた、Prune, Combine, Augment(PCA)と呼ばれるデータセット圧縮のための新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2025-02-10T13:11:40Z) - ChunkKV: Semantic-Preserving KV Cache Compression for Efficient Long-Context LLM Inference [61.412894960600205]
大きな言語モデル(LLM)は、長いテキストを処理する際に大きなGPUメモリを必要とする。
ChunkKVは、セマンティックチャンクを基本的な圧縮単位として扱うことで、KVキャッシュ圧縮を再定義する。
結果: ChunkKVは最先端の手法を最大8.7%精度で上回る。
論文 参考訳(メタデータ) (2025-02-01T03:49:47Z) - Reducing the Footprint of Multi-Vector Retrieval with Minimal Performance Impact via Token Pooling [5.232135930253723]
ColBERTによって先導されたマルチベクター検索手法は、ニューラルIRに対するアプローチとしてますます人気が高まっている。
しかし、大量のベクトルを格納するために必要なストレージとメモリの要求は、依然として重要な欠点である。
簡単なクラスタリングベースのトークンプーリング手法を導入し、保存が必要なベクトルの数を積極的に削減する。
論文 参考訳(メタデータ) (2024-09-23T03:12:43Z) - Injecting Domain Adaptation with Learning-to-hash for Effective and
Efficient Zero-shot Dense Retrieval [49.98615945702959]
我々は,TAS-B高密度検索器の下流ゼロショット検索精度を向上させるためのLTHおよびベクトル圧縮技術を評価する。
以上の結果から, 従来の研究とは異なり, LTH法はゼロショットTAS-B高密度レトリバーを平均14%のnDCG@10で過小評価できることがわかった。
論文 参考訳(メタデータ) (2022-05-23T17:53:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。