Fugu-MT 論文翻訳(概要): When to Fold'em: How to answer Unanswerable questions

論文の概要: When to Fold'em: How to answer Unanswerable questions

arxiv url: http://arxiv.org/abs/2105.00328v1
Date: Sat, 1 May 2021 19:08:40 GMT
ステータス: 処理完了
システム内更新日: 2021-05-05 05:44:48.988071
Title: When to Fold'em: How to answer Unanswerable questions
Title（参考訳）: when to fold'em: 答えられない質問への答え方
Authors: Marshall Ho, Zhipeng Zhou, Judith He
Abstract要約: SQuAD2.0データセットで学習した3種類の質問応答モデルを提案する。我々は,SQuAD2.0 F1の2%点改善を訓練時間短縮で達成できる新しいアプローチを開発した。
参考スコア（独自算出の注目度）: 5.586191108738563
License: http://creativecommons.org/licenses/by/4.0/
Abstract: We present 3 different question-answering models trained on the SQuAD2.0 dataset -- BIDAF, DocumentQA and ALBERT Retro-Reader -- demonstrating the improvement of language models in the past three years. Through our research in fine-tuning pre-trained models for question-answering, we developed a novel approach capable of achieving a 2% point improvement in SQuAD2.0 F1 in reduced training time. Our method of re-initializing select layers of a parameter-shared language model is simple yet empirically powerful.
Abstract（参考訳）: squad2.0データセットでトレーニングされた3つの質問応答モデル -- bidaf、documentqa、albert retro-reader -- を紹介し、過去3年間の言語モデルの改善を示す。質問応答のための微調整事前学習モデルの研究を通じて,SQuAD2.0 F1の2%点改善を達成できる新しいアプローチを開発した。パラメータ共有言語モデルの選択層を再初期化する手法は単純だが経験的に強力である。

関連論文リスト

A Lightweight Method to Generate Unanswerable Questions in English [18.323248259867356]
本稿では,英語における疑問生成のための簡易なデータ拡張手法について検討する。回答可能な質問に対して、Antonymとエンティティスワップを実行します。従来の最先端技術と比較すると、トレーニング不要で軽量な戦略で生成されたデータにより、より良いモデルが得られます。
論文参考訳（メタデータ） (2023-10-30T10:14:52Z)
Zero-shot Visual Question Answering with Language Model Feedback [83.65140324876536]
知識に基づく視覚的質問応答(VQA)のための言語モデル指導型キャプションアプローチ LAMOC を提案する。提案手法では,予備学習言語モデル (PLM) である回答予測モデルの文脈として,キャプションモデルによって生成されたキャプションを用いる。
論文参考訳（メタデータ） (2023-05-26T15:04:20Z)
Learning Answer Generation using Supervision from Automatic Question Answering Evaluators [98.9267570170737]
我々は、自動QA評価モデル(GAVA)の監督を用いたGenQAのための新しいトレーニングパラダイムを提案する。提案手法を2つの学術的, 1つの産業的データセット上で評価し, 過去の技術状況に対して, 回答精度を大幅に向上させた。
論文参考訳（メタデータ） (2023-05-24T16:57:04Z)
Knowledge Transfer from Answer Ranking to Answer Generation [97.38378660163414]
我々は、訓練されたAS2モデルから知識を伝達することで、GenQAモデルをトレーニングすることを提案する。また,AS2モデル予測スコアを損失重み付けおよびスコア条件付き入出力整形に用いることを提案する。
論文参考訳（メタデータ） (2022-10-23T21:51:27Z)
Recitation-Augmented Language Models [85.30591349383849]
知識集約型NLPタスクにおいて,RECITEは強力なパラダイムであることを示す。具体的には、リサイクリングを中間ステップとして活用することにより、新しい最先端性能を実現することができることを示す。
論文参考訳（メタデータ） (2022-10-04T00:49:20Z)
Multilingual Answer Sentence Reranking via Automatically Translated Data [97.98885151955467]
本稿では,現代の質問応答システム(QA)のコアコンポーネントである,多言語回答文選択(AS2)モデルの設計について述べる。主なアイデアは、あるリソースリッチ言語(英語など)から、他の言語へのデータ転送であり、リソースの観点からはよりリッチである。
論文参考訳（メタデータ） (2021-02-20T03:52:08Z)
UnitedQA: A Hybrid Approach for Open Domain Question Answering [70.54286377610953]
最近の訓練済みのニューラル言語モデルに基づいて,抽出的および生成的読取能力を高めるために,新しい手法を適用した。私たちのアプローチは、それぞれNaturalQuestionsとTriviaQAと正確な一致で、以前の最先端のモデルを3.3と2.7ポイント上回る。
論文参考訳（メタデータ） (2021-01-01T06:36:16Z)
KgPLM: Knowledge-guided Language Model Pre-training via Generative and Discriminative Learning [45.067001062192844]
事実の知識の完成と検証によって導かれる言語モデル事前トレーニングフレームワークを提示する。ゼロショットクローゼ型質問応答タスクのセットであるLAMAの実験結果は、私たちのモデルが従来の訓練済み言語モデルよりも豊富な事実知識を含んでいることを示しています。
論文参考訳（メタデータ） (2020-12-07T09:39:25Z)
REALM: Retrieval-Augmented Language Model Pre-Training [37.3178586179607]
言語モデルの事前学習を潜伏知識検索システムで強化し,ウィキペディアのような大規模コーパスから文書を検索し,出席できるようにする。本研究では,このような知識検索を教師なしで事前学習する方法を初めて示す。オープンドメイン質問回答(Open-QA)の課題を微調整し,検索型言語モデル事前学習(REALM)の有効性を実証する。
論文参考訳（メタデータ） (2020-02-10T18:40:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。