論文の概要: Semi-Parametric Retrieval via Binary Token Index

• arxiv url: http://arxiv.org/abs/2405.01924v1
• Date: Fri, 3 May 2024 08:34:13 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-06 13:25:40.821178
• Title: Semi-Parametric Retrieval via Binary Token Index
• Title（参考訳）: バイナリトークンインデックスによる半パラメトリック検索
• Authors: Jiawei Zhou, Li Dong, Furu Wei, Lei Chen,
• Abstract要約: Semi-parametric Vocabulary Disentangled Retrieval (SVDR) は、新しい半パラメトリック検索フレームワークである。 既存のニューラル検索手法に似た、高い有効性のための埋め込みベースのインデックスと、従来の用語ベースの検索に似た、迅速かつ費用対効果の高いセットアップを可能にするバイナリトークンインデックスの2つのタイプをサポートする。 埋め込みベースインデックスを使用する場合の高密度検索器DPRよりも3%高いトップ1検索精度と、バイナリトークンインデックスを使用する場合のBM25よりも9%高いトップ1検索精度を実現する。
• 参考スコア（独自算出の注目度）: 71.78109794895065
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The landscape of information retrieval has broadened from search services to a critical component in various advanced applications, where indexing efficiency, cost-effectiveness, and freshness are increasingly important yet remain less explored. To address these demands, we introduce Semi-parametric Vocabulary Disentangled Retrieval (SVDR). SVDR is a novel semi-parametric retrieval framework that supports two types of indexes: an embedding-based index for high effectiveness, akin to existing neural retrieval methods; and a binary token index that allows for quick and cost-effective setup, resembling traditional term-based retrieval. In our evaluation on three open-domain question answering benchmarks with the entire Wikipedia as the retrieval corpus, SVDR consistently demonstrates superiority. It achieves a 3% higher top-1 retrieval accuracy compared to the dense retriever DPR when using an embedding-based index and an 9% higher top-1 accuracy compared to BM25 when using a binary token index. Specifically, the adoption of a binary token index reduces index preparation time from 30 GPU hours to just 2 CPU hours and storage size from 31 GB to 2 GB, achieving a 90% reduction compared to an embedding-based index.
• Abstract（参考訳）: 情報検索の展望は、検索サービスから様々な先進的なアプリケーションにおいて重要なコンポーネントへと広がり、索引付け効率、コスト効率、新鮮さはますます重要になっているが、まだ探索が進んでいない。 これらの要求に対処するために,半パラメトリックな語彙分散検索(SVDR)を導入する。 SVDRは2種類のインデックスをサポートする新しい半パラメトリック検索フレームワークである。組込みベースインデックスは、既存のニューラル検索手法と同様、従来の用語ベースの検索と同様、迅速で費用対効果の高い設定を可能にするバイナリトークンインデックスである。 検索コーパスとしてのウィキペディア全体の3つのオープンドメイン質問応答ベンチマークの評価において,SVDRは一貫して優位性を示す。 埋め込みベースインデックスを使用する場合の高密度検索器DPRよりも3%高いトップ1検索精度と、バイナリトークンインデックスを使用する場合のBM25よりも9%高いトップ1検索精度を実現する。 具体的には、バイナリトークンインデックスの採用により、インデックス作成時間が30GPU時間から2CPU時間に短縮され、ストレージサイズが31GBから2GBに短縮され、埋め込みベースのインデックスと比較して90%削減される。

関連論文リスト

• Operational Advice for Dense and Sparse Retrievers: HNSW, Flat, or Inverted Indexes? [62.57689536630933]
  本稿では,オープンソースのLucene検索ライブラリを用いたBEIRデータセットの実験結果について述べる。 本研究は,高密度かつ疎密なレトリバーの設計空間を理解するための,今日の検索実践者へのガイダンスを提供する。
  論文  参考訳（メタデータ） (2024-09-10T12:46:23Z)
• Injecting Domain Adaptation with Learning-to-hash for Effective and Efficient Zero-shot Dense Retrieval [49.98615945702959]
  我々は,TAS-B高密度検索器の下流ゼロショット検索精度を向上させるためのLTHおよびベクトル圧縮技術を評価する。 以上の結果から, 従来の研究とは異なり, LTH法はゼロショットTAS-B高密度レトリバーを平均14%のnDCG@10で過小評価できることがわかった。
  論文  参考訳（メタデータ） (2022-05-23T17:53:44Z)
• Web image search engine based on LSH index and CNN Resnet50 [0.0]
  そこで我々は、CBIRシステムを実装するためにLocality Sensitive Hashing(LSH)インデックスを採用した。 具体的には、画像から深い特徴を抽出するために転送学習技術を利用する。 次に、前述の2つのCNNの上に構築された、完全に接続されたディープニューラルネットワークを試す。
  論文  参考訳（メタデータ） (2021-08-20T14:43:41Z)
• Partial 3D Object Retrieval using Local Binary QUICCI Descriptors and Dissimilarity Tree Indexing [2.922007656878633]
  Quick Intersection Count Change Image(QUICCI)に基づく高精度かつ効率的な部分的3次元オブジェクト検索のための完全パイプラインの提案 QUICCIクエリ記述子の変更が、部分的検索にどのように理想的であるかを示す。 局所記述子の広い空間の探索を著しく高速化する「異種木」という索引付け構造を提案する。
  論文  参考訳（メタデータ） (2021-07-07T17:30:47Z)
• Sketches image analysis: Web image search engine usingLSH index and DNN InceptionV3 [0.0]
  ディープ機能で高速な類似度検索を可能にするために、Locality Sensitive Hashing(LSH) Index上にWebイメージ検索エンジンを実装します。 画像からの深い特徴抽出に転送学習を利用する。
  論文  参考訳（メタデータ） (2021-05-03T20:01:54Z)
• IRLI: Iterative Re-partitioning for Learning to Index [104.72641345738425]
  分散環境でのロードバランスとスケーラビリティを維持しながら、高い精度を得る方法とのトレードオフが必要だ。 クエリ項目関連データから直接バケットを学習することで、アイテムを反復的に分割するIRLIと呼ばれる新しいアプローチを提案する。 我々は,irliが極めて自然な仮定の下で高い確率で正しい項目を検索し,優れた負荷分散を実現することを数学的に示す。
  論文  参考訳（メタデータ） (2021-03-17T23:13:25Z)
• The Case for Learned Spatial Indexes [62.88514422115702]
  我々は、空間範囲の問合せに答えるために、最先端の学習した多次元インデックス構造(すなわちFlood)から提案した手法を用いる。 i) パーティション内の機械学習検索は、1次元でフィルタリングを使用する場合の2進探索よりも11.79%速く、39.51%高速であることを示す。 また、2次元でフィルタする最も近い競合相手の1.23倍から1.83倍の速さで機械学習インデックスを精査する。
  論文  参考訳（メタデータ） (2020-08-24T12:09:55Z)
• Progressively Pretrained Dense Corpus Index for Open-Domain Question Answering [87.32442219333046]
  本稿では,段落エンコーダを事前学習するための簡易かつ資源効率の高い手法を提案する。 本手法は,事前学習に7倍の計算資源を使用する既存の高密度検索法より優れている。
  論文  参考訳（メタデータ） (2020-04-30T18:09:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。