論文の概要: Designing a Minimal Retrieve-and-Read System for Open-Domain Question
Answering
- arxiv url: http://arxiv.org/abs/2104.07242v1
- Date: Thu, 15 Apr 2021 05:24:04 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-16 15:03:48.753089
- Title: Designing a Minimal Retrieve-and-Read System for Open-Domain Question
Answering
- Title(参考訳): オープンドメイン質問応答のための最小検索・読解システムの設計
- Authors: Sohee Yang, Minjoon Seo
- Abstract要約: 検索と読み取りのオープンドメインQAシステムのフットプリントを最大160倍に削減するいくつかの戦略について議論します。
その結果、エッジデバイスなどの非常に制約の厳しいサービング環境でも、検索と読み取りが実行可能なオプションであることが示された。
- 参考スコア(独自算出の注目度): 11.234115388848283
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In open-domain question answering (QA), retrieve-and-read mechanism has the
inherent benefit of interpretability and the easiness of adding, removing, or
editing knowledge compared to the parametric approaches of closed-book QA
models. However, it is also known to suffer from its large storage footprint
due to its document corpus and index. Here, we discuss several orthogonal
strategies to drastically reduce the footprint of a retrieve-and-read
open-domain QA system by up to 160x. Our results indicate that
retrieve-and-read can be a viable option even in a highly constrained serving
environment such as edge devices, as we show that it can achieve better
accuracy than a purely parametric model with comparable docker-level system
size.
- Abstract(参考訳): オープンドメイン質問応答(QA)では、検索・読解機構は、クローズドブックQAモデルのパラメトリックアプローチと比較して、解釈可能性と知識の追加・削除・編集の容易性に固有の利点がある。
しかし、ドキュメントのコーパスとインデックスのため、大きなストレージフットプリントに悩まされることも知られている。
本稿では,オープンドメインqaシステムのフットプリントを最大160倍削減するための直交戦略について検討する。
その結果,エッジデバイスなどの高度に制約のあるサービス環境においても,dockerレベルのシステムサイズに匹敵する純粋パラメトリックモデルよりも精度が向上することが示された。
関連論文リスト
- Accelerating Inference of Retrieval-Augmented Generation via Sparse Context Selection [28.15184715270483]
大きな言語モデル (LLM) は、検索によって強化され、堅牢な性能と広範な汎用性を示す。
本稿では,スパースRAGという新しいパラダイムを提案する。
Sparse RAGは、検索したドキュメントを並列にエンコードする。
論文 参考訳(メタデータ) (2024-05-25T11:10:04Z) - Generative Dense Retrieval: Memory Can Be a Burden [16.964086245755798]
Generative Retrieval (GR) はクエリが与えられたドキュメント識別子を自動でデコードする。
Dense Retrieval (DR) はクラスタから関連ドキュメントへのきめ細かいクラスタ内マッチングを実現するために導入された。
DRは、NQデータセットを複数の設定で平均3.0R@100改善する。
論文 参考訳(メタデータ) (2024-01-19T04:24:07Z) - CREPO: An Open Repository to Benchmark Credal Network Algorithms [78.79752265884109]
クレダルネットワークは、確率質量関数の集合であるクレダルに基づく不正確な確率的グラフィカルモデルである。
CREMAと呼ばれるJavaライブラリが最近リリースされ、クレダルネットワークをモデル化し、処理し、クエリする。
我々は,これらのモデル上での推論タスクの正確な結果とともに,合成クレダルネットワークのオープンリポジトリであるcrrepoを提案する。
論文 参考訳(メタデータ) (2021-05-10T07:31:59Z) - Delaying Interaction Layers in Transformer-based Encoders for Efficient
Open Domain Question Answering [3.111078740559015]
ドキュメントの大規模コーパス上でのオープンドメイン質問回答(ODQA)は、コンピュータ科学における重要な課題である。
本稿では,トランスモデルのアーキテクチャに汎用的な変更を適用することで,より直接的な補完的ソリューションを提案する。
結果の変種は、抽出作業における元のモデルと競合し、ODQA設定では、大幅なスピードアップ、そして多くのケースでパフォーマンス改善が可能である。
論文 参考訳(メタデータ) (2020-10-16T14:36:38Z) - Probabilistic Case-based Reasoning for Open-World Knowledge Graph
Completion [59.549664231655726]
ケースベース推論(CBR)システムは,与えられた問題に類似した事例を検索することで,新たな問題を解決する。
本稿では,知識ベース(KB)の推論において,そのようなシステムが実現可能であることを示す。
提案手法は,KB内の類似エンティティからの推論パスを収集することにより,エンティティの属性を予測する。
論文 参考訳(メタデータ) (2020-10-07T17:48:12Z) - Tradeoffs in Sentence Selection Techniques for Open-Domain Question
Answering [54.541952928070344]
文選択のためのモデルの2つのグループについて述べる。QAベースのアプローチは、解答候補を特定するための完全なQAシステムを実行し、検索ベースのモデルは、各質問に特に関連する各節の一部を見つける。
非常に軽量なQAモデルは、このタスクではうまく機能するが、検索ベースモデルは高速である。
論文 参考訳(メタデータ) (2020-09-18T23:39:15Z) - Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks [133.93803565077337]
検索強化生成モデルは、事前訓練されたパラメトリックメモリと非パラメトリックメモリを組み合わせて言語生成を行う。
我々は、RAGモデルが、最先端パラメトリックのみのセク2セックベースラインよりも、より具体的で、多様で、現実的な言語を生成することを示す。
論文 参考訳(メタデータ) (2020-05-22T21:34:34Z) - Robust Question Answering Through Sub-part Alignment [53.94003466761305]
我々はアライメント問題として質問応答をモデル化する。
私たちは、SQuAD v1.1でモデルをトレーニングし、いくつかの逆および外ドメインデータセットでそれをテストします。
論文 参考訳(メタデータ) (2020-04-30T09:10:57Z) - Dense Passage Retrieval for Open-Domain Question Answering [49.028342823838486]
本研究では,高密度表現のみを用いて検索を実践可能であることを示す。
我々の高密度レトリバーは、上位20経路の精度で9%-19%の絶対値で強力なルセンゼ-BM25システムより優れています。
論文 参考訳(メタデータ) (2020-04-10T04:53:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。