論文の概要: A Brief Comparison of Training-Free Multi-Vector Sequence Compression Methods

• arxiv url: http://arxiv.org/abs/2603.22434v1
• Date: Mon, 23 Mar 2026 18:07:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-25 19:53:37.130081
• Title: A Brief Comparison of Training-Free Multi-Vector Sequence Compression Methods
• Title（参考訳）: 訓練不要なマルチベクトル列圧縮法の簡単な比較
• Authors: Rohan Jha, Chunsheng Zuo, Reno Kriz, Benjamin Van Durme,
• Abstract要約: マルチベクタ検索に特有な次元であるトークンシーケンス長を対象とするトレーニングフリー手法の評価を行う。 その結果, トークンのマージは, 検索効率を維持しつつ, インデックスサイズを低減するために, トークンプルーニングよりも厳格に優れていることが示唆された。
• 参考スコア（独自算出の注目度）: 45.111086083119126
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: While multi-vector retrieval models outperform single-vector models of comparable size in retrieval quality, their practicality is limited by substantially larger index sizes, driven by the additional sequence-length dimension in their document embeddings. Because document embedding size dictates both memory overhead and query latency, compression is essential for deployment. In this work, we present an evaluation of training-free methods targeting the token sequence length, a dimension unique to multi-vector retrieval. Our findings suggest that token merging is strictly superior to token pruning for reducing index size while maintaining retrieval effectiveness.
• Abstract（参考訳）: マルチベクター検索モデルは、検索品質において同等の大きさの単一ベクターモデルより優れているが、その実用性は、ドキュメント埋め込みにおける追加のシーケンス長次元によって駆動される、かなり大きなインデックスサイズによって制限される。 ドキュメントの埋め込みサイズはメモリオーバーヘッドとクエリレイテンシの両方を規定するので、デプロイメントには圧縮が不可欠です。 本研究では,マルチベクタ検索に特有な次元であるトークンシーケンス長を対象とする,トレーニング不要な手法の評価を行う。 その結果, トークンのマージは, 検索効率を維持しつつ, インデックスサイズを低減するために, トークンプルーニングよりも厳格に優れていることが示唆された。

関連論文リスト

• Multi-Vector Index Compression in Any Modality [73.7330345057813]
  後期の相互作用は、テキスト、画像、ビジュアルドキュメント、ビデオにおける情報検索の主要なパラダイムとして現れてきた。 インデックス圧縮には,シーケンスリサイズ,メモリトークン,階層プール,新しいアテンション誘導クラスタリング(AGC)の4つのアプローチを導入する。 AGCは、ドキュメントの最もセマンティックな領域をクラスタセントロイドとして識別し、トークンの集合を重み付けするために注意誘導機構を使用する。
  論文  参考訳（メタデータ） (2026-02-24T18:57:33Z)
• Arbitrary Ratio Feature Compression via Next Token Prediction [52.10426317889982]
  Arbitrary Ratio Feature Compression (ARFC)フレームワークは、任意の圧縮比を単一のモデルでサポートする。 ARCは、次の回帰予測によって圧縮を行う自動回帰モデルである。 MoSモジュールは複数の圧縮結果を利用して圧縮トークンを洗練する。 ERGCは、圧縮中の意味的および構造的関係を維持するために、トレーニングプロセスに統合される。
  論文  参考訳（メタデータ） (2026-02-12T02:38:57Z)
• LEMUR: Learned Multi-Vector Retrieval [9.22384870426709]
  マルチベクタ類似度探索のためのフレームワーク LEMUR を紹介する。 LEMURは2つの連続した問題削減で構成されている。 LEMURは、従来のマルチベクトル類似性探索法よりも桁違いに高速である。
  論文  参考訳（メタデータ） (2026-01-29T15:26:32Z)
• CoRECT: A Framework for Evaluating Embedding Compression Techniques at Scale [0.0]
  CoRECTは埋め込み圧縮手法の大規模評価のためのフレームワークである。 非学習圧縮は,最大100万パスにおいても,インデックスサイズを大幅に削減できることを示す。
  論文  参考訳（メタデータ） (2025-10-22T08:03:31Z)
• Embedding Compression for Efficient Re-Identification [0.0]
  ReIDアルゴリズムは、オブジェクトの新しい観測結果を以前に記録されたインスタンスにマッピングすることを目的としている。 我々は3つの異なる次元還元法とともに量子化学習をベンチマークする。 ReIDの埋め込みは96倍まで圧縮でき、性能は最小限に抑えられる。
  論文  参考訳（メタデータ） (2024-05-23T15:57:11Z)
• Generative Retrieval as Multi-Vector Dense Retrieval [71.75503049199897]
  生成検索は、文書の識別子をエンドツーエンドで生成する。 それまでの研究は、原子識別子による生成的検索が単一ベクトル密度検索と等価であることを示した。 生成的検索と多ベクトル高密度検索は,文書の問合せに対する関連性を測定するのと同じ枠組みを共有していることを示す。
  論文  参考訳（メタデータ） (2024-03-31T13:29:43Z)
• CITADEL: Conditional Token Interaction via Dynamic Lexical Routing for Efficient and Effective Multi-Vector Retrieval [72.90850213615427]
  マルチベクター検索法はスパース(例えばBM25)と高密度(例えばDPR)レトリバーの利点を組み合わせたものである。 これらの手法は桁違いに遅く、単ベクトルの手法に比べてインデックスを格納するのにはるかに多くのスペースを必要とする。 動的語彙ルーティング(CITADEL)による条件付きトークンの相互作用を,効率的かつ効率的なマルチベクタ検索のために提案する。
  論文  参考訳（メタデータ） (2022-11-18T18:27:35Z)
• Progressively Pretrained Dense Corpus Index for Open-Domain Question Answering [87.32442219333046]
  本稿では,段落エンコーダを事前学習するための簡易かつ資源効率の高い手法を提案する。 本手法は,事前学習に7倍の計算資源を使用する既存の高密度検索法より優れている。
  論文  参考訳（メタデータ） (2020-04-30T18:09:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。