論文の概要: UnitedQA: A Hybrid Approach for Open Domain Question Answering

• arxiv url: http://arxiv.org/abs/2101.00178v1
• Date: Fri, 1 Jan 2021 06:36:16 GMT
• ステータス: 処理完了
• システム内更新日: 2021-04-16 11:15:13.526560
• Title: UnitedQA: A Hybrid Approach for Open Domain Question Answering
• Title（参考訳）: UnitedQA: Open Domain Question Answeringのハイブリッドアプローチ
• Authors: Hao Cheng, Yelong Shen, Xiaodong Liu, Pengcheng He, Weizhu Chen, Jianfeng Gao
• Abstract要約: 最近の訓練済みのニューラル言語モデルに基づいて,抽出的および生成的読取能力を高めるために,新しい手法を適用した。 私たちのアプローチは、それぞれNaturalQuestionsとTriviaQAと正確な一致で、以前の最先端のモデルを3.3と2.7ポイント上回る。
• 参考スコア（独自算出の注目度）: 70.54286377610953
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: To date, most of recent work under the retrieval-reader framework for open-domain QA focuses on either extractive or generative reader exclusively. In this paper, we study a hybrid approach for leveraging the strengths of both models. We apply novel techniques to enhance both extractive and generative readers built upon recent pretrained neural language models, and find that proper training methods can provide large improvement over previous state-of-the-art models. We demonstrate that a simple hybrid approach by combining answers from both readers can efficiently take advantages of extractive and generative answer inference strategies and outperforms single models as well as homogeneous ensembles. Our approach outperforms previous state-of-the-art models by 3.3 and 2.7 points in exact match on NaturalQuestions and TriviaQA respectively.
• Abstract（参考訳）: 現在までに、オープンドメインQAのための検索-読み取りフレームワークにおける最近の研究のほとんどは、抽出または生成の読者のみに焦点を当てている。 本稿では,両モデルの強みを利用するためのハイブリッドアプローチについて検討する。 最近の訓練済みのニューラル言語モデルに基づく抽出型と生成型の両方の読取力を高めるために,新しい手法を適用し,適切なトレーニング手法が従来の最先端モデルよりも大きな改善をもたらすことを見出した。 両読者の回答を組み合わせた単純なハイブリッドアプローチは,抽出的および生成的回答推論戦略の利点を効果的に活用し,一様アンサンブルだけでなく単一モデルよりも優れていることを示す。 提案手法は,NaturalQuestions と TriviaQA の正確なマッチングにおいて,従来の最先端モデルよりも3.3ポイント,2.7ポイント向上する。

関連論文リスト

• Improving Transferability of Adversarial Examples via Bayesian Attacks [84.90830931076901]
  モデル入力にベイズ定式化を組み込むことにより,モデル入力とモデルパラメータの共分散を可能にする新しい拡張を導入する。 提案手法は,トランスファーベース攻撃に対する新たな最先端技術を実現し,ImageNetとCIFAR-10の平均成功率をそれぞれ19.14%,2.08%向上させる。
  論文  参考訳（メタデータ） (2023-07-21T03:43:07Z)
• Quality Diversity Evolutionary Learning of Decision Trees [4.447467536572625]
  MAP-Elitesは, モデル複雑性と振る舞いの多様性の両方を捉えた特徴空間上で, ハイブリッドモデルを多様化することができることを示す。 本手法をOpenAI Gymライブラリの2つのよく知られた制御問題に適用し,MAP-Elitesが提案する「照明」パターンについて議論する。
  論文  参考訳（メタデータ） (2022-08-17T13:57:32Z)
• Attention-guided Generative Models for Extractive Question Answering [17.476450946279037]
  近年,事前学習型生成系列列列モデル (seq2seq) は質問応答において大きな成功を収めている。 本稿では,デコーダのクロスアテンションパターンを利用して,生成モデルから抽出された回答を抽出する簡単な手法を提案する。
  論文  参考訳（メタデータ） (2021-10-12T23:02:35Z)
• Local and Global Context-Based Pairwise Models for Sentence Ordering [0.0]
  本稿では,局所的およびグローバルな文脈に基づくペアワイズ・オーダリング・ストラテジーの集合を提示する。 提案手法は,この段落の豊富なグローバルな文脈情報を用いて,ペアの順序を予測する。 提案した2つのデコード戦略の解析は、ペアワイズモデルにおけるエラーの伝播をよりよく説明するのに役立つ。
  論文  参考訳（メタデータ） (2021-10-08T17:57:59Z)
• End-to-End Training of Neural Retrievers for Open-Domain Question Answering [32.747113232867825]
  ニューラルレトリバーに対して、非監視および監督された方法が最も効果的に使用できるかは不明である。 Inverse Cloze Taskとマスク付きサラエントスパンによる教師なしプリトレーニングのアプローチを提案します。 また,OpenQAモデルにおけるリーダとレシーバコンポーネントのエンドツーエンド教師付きトレーニングのための2つのアプローチについても検討する。
  論文  参考訳（メタデータ） (2021-01-02T09:05:34Z)
• Lip-reading with Hierarchical Pyramidal Convolution and Self-Attention [98.52189797347354]
  唇読解のための空間特徴抽出にマルチスケール処理を導入する。 セルフアテンションを活用して、シーケンスのすべてのステップで情報をマージします。 提案モデルは86.83%の精度を達成し,現状よりも1.53%の絶対的改善が得られた。
  論文  参考訳（メタデータ） (2020-12-28T16:55:51Z)
• Tradeoffs in Sentence Selection Techniques for Open-Domain Question Answering [54.541952928070344]
  文選択のためのモデルの2つのグループについて述べる。QAベースのアプローチは、解答候補を特定するための完全なQAシステムを実行し、検索ベースのモデルは、各質問に特に関連する各節の一部を見つける。 非常に軽量なQAモデルは、このタスクではうまく機能するが、検索ベースモデルは高速である。
  論文  参考訳（メタデータ） (2020-09-18T23:39:15Z)
• Leveraging Passage Retrieval with Generative Models for Open Domain Question Answering [61.394478670089065]
  オープンドメインの質問に答えるための生成モデルは、外部の知識に頼らずに競争力があることが証明されている。 我々は、これらのモデルがテキストの文節を検索することでどれだけの恩恵を受けられるかを調査し、潜在的に証拠を含む可能性がある。 検索したパス数を増やすと,本手法の性能が著しく向上することがわかった。
  論文  参考訳（メタデータ） (2020-07-02T17:44:57Z)
• Harvesting and Refining Question-Answer Pairs for Unsupervised QA [95.9105154311491]
  教師なし質問回答(QA)を改善するための2つのアプローチを提案する。 まず、ウィキペディアから語彙的・構文的に異なる質問を抽出し、質問応答対のコーパスを自動的に構築する(RefQAと名づけられる)。 第2に、より適切な回答を抽出するためにQAモデルを活用し、RefQA上でデータを反復的に洗練する。
  論文  参考訳（メタデータ） (2020-05-06T15:56:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。