論文の概要: Knowledge Transfer from Answer Ranking to Answer Generation

• arxiv url: http://arxiv.org/abs/2210.12865v1
• Date: Sun, 23 Oct 2022 21:51:27 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-25 14:12:19.242313
• Title: Knowledge Transfer from Answer Ranking to Answer Generation
• Title（参考訳）: 解答者ランキングから解答者生成への知識移転
• Authors: Matteo Gabburo, Rik Koncel-Kedziorski, Siddhant Garg, Luca Soldaini, Alessandro Moschitti
• Abstract要約: 我々は、訓練されたAS2モデルから知識を伝達することで、GenQAモデルをトレーニングすることを提案する。 また,AS2モデル予測スコアを損失重み付けおよびスコア条件付き入出力整形に用いることを提案する。
• 参考スコア（独自算出の注目度）: 97.38378660163414
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent studies show that Question Answering (QA) based on Answer Sentence Selection (AS2) can be improved by generating an improved answer from the top-k ranked answer sentences (termed GenQA). This allows for synthesizing the information from multiple candidates into a concise, natural-sounding answer. However, creating large-scale supervised training data for GenQA models is very challenging. In this paper, we propose to train a GenQA model by transferring knowledge from a trained AS2 model, to overcome the aforementioned issue. First, we use an AS2 model to produce a ranking over answer candidates for a set of questions. Then, we use the top ranked candidate as the generation target, and the next k top ranked candidates as context for training a GenQA model. We also propose to use the AS2 model prediction scores for loss weighting and score-conditioned input/output shaping, to aid the knowledge transfer. Our evaluation on three public and one large industrial datasets demonstrates the superiority of our approach over the AS2 baseline, and GenQA trained using supervised data.
• Abstract（参考訳）: 近年の研究では、上位kランクの回答文(GenQA)から改善された回答を生成することにより、回答文選択(AS2)に基づく質問回答(QA)を改善することができる。 これにより、複数の候補からの情報を簡潔で自然な答えに合成することができる。 しかし、GenQAモデルの大規模教師付きトレーニングデータの作成は非常に困難である。 本稿では,前述の問題を克服するために,訓練されたas2モデルから知識を移し,genqaモデルを訓練することを提案する。 まず,AS2モデルを用いて質問に対する回答候補のランク付けを行う。 次に、上位候補を生成対象とし、次の上位候補をGenQAモデルをトレーニングするためのコンテキストとして使用する。 また,AS2モデル予測スコアを用いて損失重み付けとスコア条件の入力/出力整形を行い,知識伝達を支援することを提案する。 3つのパブリックデータセットと1つの大規模産業データセットに対する評価は、AS2ベースラインに対するアプローチの優位性を示し、GenQAは教師付きデータを用いて訓練された。

関連論文リスト

• QASnowball: An Iterative Bootstrapping Framework for High-Quality Question-Answering Data Generation [67.27999343730224]
  QAデータ拡張のための反復型ブートストラップフレームワーク(QASnowball)を導入する。 QASnowballは、教師付きサンプルのシードセットに基づいて、大規模で高品質なQAデータを反復的に生成することができる。 本研究では, 高資源の英語シナリオと中資源の中国語シナリオで実験を行い, 実験結果から, QASnowball が生成したデータによりQAモデルを容易に作成できることが示唆された。
  論文  参考訳（メタデータ） (2023-09-19T05:20:36Z)
• Learning Answer Generation using Supervision from Automatic Question Answering Evaluators [98.9267570170737]
  我々は、自動QA評価モデル(GAVA)の監督を用いたGenQAのための新しいトレーニングパラダイムを提案する。 提案手法を2つの学術的, 1つの産業的データセット上で評価し, 過去の技術状況に対して, 回答精度を大幅に向上させた。
  論文  参考訳（メタデータ） (2023-05-24T16:57:04Z)
• Toward Unsupervised Realistic Visual Question Answering [70.67698100148414]
  現実的なVQA(RVQA)の問題について検討し、モデルが答えられない質問(UQ)を拒絶し、答えられる質問(AQ)に答えなければならない。 1)データセットには不整合UQが多すぎること,(2)多数の注釈付きUQがトレーニングに必要とされること,の2つの欠点を最初に指摘した。 我々は、既存のVQAデータセットのAQと約29万の人間の注釈付きUQを組み合わせた新しいテストデータセットRGQAを提案する。 これは、画像と質問をランダムにペアリングして得られる擬似UQと、それを結合する。
  論文  参考訳（メタデータ） (2023-03-09T06:58:29Z)
• Answer Generation for Retrieval-based Question Answering Systems [80.28727681633096]
  シーケンス・トゥ・シークエンス・トランスモデルを訓練し、候補集合から解を生成する。 英語のAS2データセットを3つ比較したところ, 精度は32点まで向上した。
  論文  参考訳（メタデータ） (2021-06-02T05:45:49Z)
• Fluent Response Generation for Conversational Question Answering [15.826109118064716]
  本稿では,SEQ2SEQ NLGアプローチで応答をシチュレートする手法を提案する。 我々は、エンドツーエンドシステムのトレーニングデータを生成するためにデータ拡張を使用します。
  論文  参考訳（メタデータ） (2020-05-21T04:57:01Z)
• Template-Based Question Generation from Retrieved Sentences for Improved Unsupervised Question Answering [98.48363619128108]
  擬似学習データを用いてQAモデルを訓練するための教師なしアプローチを提案する。 関連した検索文に簡単なテンプレートを適用してQA学習のための質問を生成すると、元の文脈文よりも、下流QAのパフォーマンスが向上することを示す。
  論文  参考訳（メタデータ） (2020-04-24T17:57:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。