論文の概要: Retrospective Reader for Machine Reading Comprehension
- arxiv url: http://arxiv.org/abs/2001.09694v4
- Date: Fri, 11 Dec 2020 09:28:12 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-06 07:32:15.557457
- Title: Retrospective Reader for Machine Reading Comprehension
- Title（参考訳）: 機械読解のためのふりかえり読解
- Authors: Zhuosheng Zhang, Junjie Yang, Hai Zhao
- Abstract要約: 機械読み取り理解(英: Machine reading comprehension、MRC)とは、機械が与えられた文節に基づいて質問に対する正しい答えを決定することを要求するAIチャレンジである。
不可解な質問が MRC タスクに関与している場合、検証モジュールと呼ばれる本質的な検証モジュールがエンコーダに加えて特に必要となる。
本稿では, MRC タスクに対して, 解答不能な質問に対して, より優れた検証器設計を提案する。
- 参考スコア（独自算出の注目度）: 90.6069071495214
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Machine reading comprehension (MRC) is an AI challenge that requires machine
to determine the correct answers to questions based on a given passage. MRC
systems must not only answer question when necessary but also distinguish when
no answer is available according to the given passage and then tactfully
abstain from answering. When unanswerable questions are involved in the MRC
task, an essential verification module called verifier is especially required
in addition to the encoder, though the latest practice on MRC modeling still
most benefits from adopting well pre-trained language models as the encoder
block by only focusing on the "reading". This paper devotes itself to exploring
better verifier design for the MRC task with unanswerable questions. Inspired
by how humans solve reading comprehension questions, we proposed a
retrospective reader (Retro-Reader) that integrates two stages of reading and
verification strategies: 1) sketchy reading that briefly investigates the
overall interactions of passage and question, and yield an initial judgment; 2)
intensive reading that verifies the answer and gives the final prediction. The
proposed reader is evaluated on two benchmark MRC challenge datasets SQuAD2.0
and NewsQA, achieving new state-of-the-art results. Significance tests show
that our model is significantly better than the strong ELECTRA and ALBERT
baselines. A series of analysis is also conducted to interpret the
effectiveness of the proposed reader.
- Abstract（参考訳）: machine reading comprehension (mrc)は、与えられた文章に基づいて質問に対する正しい回答を決定するために機械が要求するaiチャレンジである。
mrcシステムは、必要な時に質問に答えるだけでなく、与えられた文に従って回答が得られない場合の区別も行わなければならない。
MRCタスクに未解決の質問が関わる場合、特に検証モジュールと呼ばれる本質的な検証モジュールがエンコーダに加えて必要となるが、MRCモデリングの最新プラクティスは「読み上げ」のみに焦点を当てて、十分に訓練された言語モデルをエンコーダブロックとして採用することの最も大きな利点である。
本稿では, MRC タスクに対して, 解答不能な質問に対して, より良い検証設計を提案する。
人間が理解的な質問を読み解く方法に触発されて、私たちは2段階の読書と検証戦略を統合するふりかえりリーダー(retro-reader)を提案しました。
1) 通訳及び質問の全体的な相互作用を簡潔に調査し,最初の判断を下すスケッチ読み
2) 回答を検証し,最終的な予測を行う集中的な読解。
提案した読者は、SQuAD2.0とNewsQAの2つのベンチマークMCCチャレンジデータセットで評価され、新しい最先端の結果が得られた。
その結果, ELECTRAやALBERTのベースラインよりも, モデルの方がはるかに優れていることがわかった。
また,提案手法の有効性を解析するための一連の分析を行った。
関連論文リスト
- Towards Reliable and Factual Response Generation: Detecting Unanswerable
Questions in Information-Seeking Conversations [16.99952884041096]
生成的AIモデルは、そのようなシステムに対するユーザの信頼を損なう可能性のある幻覚の課題に直面します。
本稿では,まずコーパス内の関連するパスを識別し,最後にシステム応答にまとめる2段階のプロセスとして,会話情報探索の問題にアプローチする。
具体的には,文レベル分類器を用いて解答の有無を判定し,これらの予測を文レベルに集約し,最後に最終解答可能性推定値に到達する。
論文 参考訳（メタデータ） (2024-01-21T10:15:36Z) - Re-Reading Improves Reasoning in Large Language Models [87.46256176508376]
既成のLarge Language Models (LLM) の推論能力を高めるため, 単純で汎用的で効果的なプロンプト手法であるRe2を導入する。
CoT (Chain-of-Thought) など、ほとんどの思考を刺激する手法とは異なり、Re2 は質問を2回処理することで入力に焦点を移し、理解プロセスを強化する。
提案手法の有効性と汎用性を検証するため,14のデータセットにまたがる広範囲な推論ベンチマークでRe2を評価した。
論文 参考訳（メタデータ） (2023-09-12T14:36:23Z) - Integrating Semantic Information into Sketchy Reading Module of
Retro-Reader for Vietnamese Machine Reading Comprehension [0.22940141855172036]
SRLタスクのセマンティックロールラベルを使用して、mBERT、XLM-R、PhoBERTといった事前学習言語モデルにセマンティックスを追加する。
改良されたRetro-Readerモデルのエンコーダのセマンティクスをベトナム語機械読解タスクに適用し,肯定的な結果を得た。
論文 参考訳（メタデータ） (2023-01-01T15:28:27Z) - Choose Your QA Model Wisely: A Systematic Study of Generative and
Extractive Readers for Question Answering [41.14425610319543]
本研究は,質問応答のための抽出読解と生成読解の比較を体系的に研究する最初の試みである。
最先端技術に対応するため,9つのトランスフォーマーベース大規模事前学習言語モデル(PrLM)をバックボーンアーキテクチャとして検討する。
論文 参考訳（メタデータ） (2022-03-14T22:07:52Z) - Answer Span Correction in Machine Reading Comprehension [16.82391374339153]
機械読解理解(MRC)は、抽出された回答を入力コンテキストと質問ペアに対して検証する。
以前の研究は、抽出された回答から質問の「答え可能性」を再評価することを検討した。
ここでは,既存のMSCシステムにおいて,解答可能な質問を提示した場合に,部分的に正解が生じる傾向について考察する。
論文 参考訳（メタデータ） (2020-11-06T15:31:07Z) - Composing Answer from Multi-spans for Reading Comprehension [77.32873012668783]
本稿では,非抽出機械読解(MRC)タスクに対する応答を生成する新しい手法を提案する。
提案手法は,長い解答を正確に生成する性能が向上し,競合する2つの典型的な1スパンとSeq2Seqのベースラインデコーダよりも大幅に向上する。
論文 参考訳（メタデータ） (2020-09-14T01:44:42Z) - Explicit Memory Tracker with Coarse-to-Fine Reasoning for Conversational
Machine Reading [177.50355465392047]
本稿では,EMT(Explicit Memory Tracker)を用いた会話機械読取フレームワークを提案する。
我々のフレームワークは、粗大な推論戦略を採用することによって、明確化の質問を生成する。
EMTは74.6%のマイクロ平均決定精度と49.5BLEU4の新たな最先端結果を達成する。
論文 参考訳（メタデータ） (2020-05-26T02:21:31Z) - Recurrent Chunking Mechanisms for Long-Text Machine Reading
Comprehension [59.80926970481975]
機械読解(MRC)を長文で研究する。
モデルは長い文書と質問を入力として取り、回答として文書からテキストを抽出する。
我々は、モデルに強化学習を通じてより柔軟な方法でチャンクを学習させることを提案する。
論文 参考訳（メタデータ） (2020-05-16T18:08:58Z) - Knowledgeable Dialogue Reading Comprehension on Key Turns [84.1784903043884]
MRC(Multi-choice Machine reading comprehension)は、ある項目と質問に対する候補オプションから正しい回答を選択するモデルである。
本研究は,複数回対話を行う対話型MRCに焦点を当てている。
それは2つの課題に悩まされ、答えの選択決定は、最近役に立つコモンセンスをサポートせずに行われ、マルチターンコンテキストは、かなりの無関係な情報を隠蔽する可能性がある。
論文 参考訳（メタデータ） (2020-04-29T07:04:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。