論文の概要: Compact and Efficient Indexes for Learned Sparse Retrieval

• arxiv url: http://arxiv.org/abs/2610.12300v1
• Date: Thu, 08 Oct 2026 16:50:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 02:36:54.192877
• Title: Compact and Efficient Indexes for Learned Sparse Retrieval
• Title（参考訳）: 学習したスパース検索のためのコンパクトで効率的な指標
• Abstract要約: 学習したスパース検索インデックスのメモリフットプリントを大幅に削減する方法を示す。 逆インデックスの場合、ブロック単位のサマリーをメドイドに置き換え、スパースベクトルから単一のドキュメント識別子へブロック単位のメタデータをラップする。 また、クエリ用に調整されたブロックされたドット生成カーネルであるJUMPDOTを導入する。
• 参考スコア（独自算出の注目度）: 10.660938539418046
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This paper investigates how to substantially reduce the memory footprint of learned sparse retrieval indexes without sacrificing the efficiency of state-of-the-art retrieval data structures. Building on SEISMIC, we revisit both levels of its design: the inverted index used to select candidates and the forward index used to score them. For the inverted index, we replace costly per-block summaries with medoids, namely existing documents elected as block representatives, collapsing the per-block metadata from a sparse vector to a single document identifier. For the forward index, we compress both components and values. We reorder the vocabulary to place co-occurring components closer together and encode the resulting $Δ$-gaps with DOTPACKING8, a SIMD-friendly bit-packing scheme that fuses decompression with dot-product evaluation; values are quantized with compact per-component 4-bit codebooks fitted to each component's distribution. We further introduce JUMPDOT, a blocked dot-product kernel tailored for queries that contain only a few non-zero entries. Our forward-index compression is independent of SEISMIC and can be plugged into any system relying on forward-index-based scoring, as we demonstrate by integrating it into KANNOLO. A comprehensive evaluation on MS MARCO with three state-of-the-art learned sparse encoders shows that our solutions markedly improve the speed-space trade-off of learned sparse retrieval: at equal accuracy, our indexes answer queries up to 5.3x faster than the best competitor while using about 3x less memory, and in the most memory-constrained regime, they remain up to 1.9x faster while using up to 3.9x less memory.
• Abstract（参考訳）: 本稿では,最先端検索データ構造の効率を犠牲にすることなく,学習したスパース検索インデックスのメモリフットプリントを大幅に削減する方法を検討する。 SEISMICをベースとした設計では,候補の選択に使用する逆インデックスと,評価に使用する前方インデックスの2つのレベルが再検討される。 逆インデックスの場合、ブロック単位のサマリーをメドイド、すなわちブロック代表として選択された既存の文書に置き換え、スパースベクトルから単一のドキュメント識別子にブロック単位のメタデータをラップする。 フォワードインデックスでは、コンポーネントと値の両方を圧縮します。 我々は,共起成分を近接に配置し,結果として得られる$$$-gapsをSIMDフレンドリーなビットパック方式であるDOTPACKING8で符号化するために語彙を並べ替え,各成分の分布に適合するコンパクトな4ビットコードブックで値の量子化を行う。 さらに,数個の非ゼロエントリのみを含むクエリに適したブロック付きドット生成カーネルであるJUMPDOTを紹介する。 フォワードインデックス圧縮はSEISMICとは独立であり、フォワードインデックスベースのスコアリングに依存する任意のシステムにプラグインすることができる。 3つの最先端の学習スパースエンコーダによるMS MARCOの総合的な評価は、我々のソリューションが学習スパース検索の速度空間トレードオフを著しく改善していることを示している。

関連論文リスト

• ColBERTSaR: Sparsified ColBERT Index via Product Quantization [23.59576017606267]
  ColBERTは効果的なニューラル検索アーキテクチャであるが、候補セット検索をサポートするために重いインデックス構造を必要とする。 我々は、ColBERTインデックスを真逆インデックスに変換する埋め込み量子化手法を提案する。
  論文  参考訳（メタデータ） (2026-06-04T01:28:45Z)
• No More K-means: Single-Stage Sparse Coding for Efficient Multi-Vector Retrieval [51.43543998583709]
  SSR(Single-stage Sparse Retrieval)は、高価なクラスタリングを効率的なスパースコーディングに置き換えるパラダイムシフトである。 ColBERTv2と比較してインデックス処理時間を15倍短縮し、検索レイテンシを半減させ、同時に検索性能を向上させる。
  論文  参考訳（メタデータ） (2026-05-28T15:53:34Z)
• A Parametric Memory Head for Continual Generative Retrieval [52.66674234249913]
  生成情報検索(GenIR)は、検索を単一のニューラルモデルに統合し、クエリから直接ドキュメント識別子(ドシデント)をデコードする。 逐次適応は、新たに追加された文書の検索を改善するが、以前のスライスの性能は著しく低下することを示す。 本稿では,モジュール型パラメトリックメモリヘッドで適応モデルを拡張するメモリのみの安定化ステージである,後適応メモリチューニング(PAMT)を提案する。
  論文  参考訳（メタデータ） (2026-04-25T17:38:51Z)
• Multi-Vector Index Compression in Any Modality [73.7330345057813]
  後期の相互作用は、テキスト、画像、ビジュアルドキュメント、ビデオにおける情報検索の主要なパラダイムとして現れてきた。 インデックス圧縮には,シーケンスリサイズ,メモリトークン,階層プール,新しいアテンション誘導クラスタリング(AGC)の4つのアプローチを導入する。 AGCは、ドキュメントの最もセマンティックな領域をクラスタセントロイドとして識別し、トークンの集合を重み付けするために注意誘導機構を使用する。
  論文  参考訳（メタデータ） (2026-02-24T18:57:33Z)
• Semi-Parametric Retrieval via Binary Bag-of-Tokens Index [71.78109794895065]
  SemI-parametric Disentangled Retrieval (SiDR)は、ニューラルパラメータから検索インデックスを分離するバイエンコーダ検索フレームワークである。 SiDRは、検索のための非パラメトリックトークン化インデックスをサポートし、BM25のようなインデックス化の複雑さを著しく改善した。
  論文  参考訳（メタデータ） (2024-05-03T08:34:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。