論文の概要: Complex Reading Comprehension Through Question Decomposition
- arxiv url: http://arxiv.org/abs/2211.03277v1
- Date: Mon, 7 Nov 2022 02:54:04 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-08 16:54:57.601535
- Title: Complex Reading Comprehension Through Question Decomposition
- Title(参考訳): 質問分解による複雑読解の理解
- Authors: Xiao-Yu Guo, Yuan-Fang Li, and Gholamreza Haffari
- Abstract要約: 本稿では,言語モデルによる難解なマルチホップ質問の理解を支援する新しい学習手法を提案する。
我々のモデルはまず、訓練可能な質問分解器によって、各マルチホップ質問をいくつかのサブクエストに分解することを学ぶ。
我々は,シーケンス・ツー・シーケンス方式で解答を予測するために,読解理解モデルを活用する。
- 参考スコア(独自算出の注目度): 48.256818683923626
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multi-hop reading comprehension requires not only the ability to reason over
raw text but also the ability to combine multiple evidence. We propose a novel
learning approach that helps language models better understand difficult
multi-hop questions and perform "complex, compositional" reasoning. Our model
first learns to decompose each multi-hop question into several sub-questions by
a trainable question decomposer. Instead of answering these sub-questions, we
directly concatenate them with the original question and context, and leverage
a reading comprehension model to predict the answer in a sequence-to-sequence
manner. By using the same language model for these two components, our best
seperate/unified t5-base variants outperform the baseline by 7.2/6.1 absolute
F1 points on a hard subset of DROP dataset.
- Abstract(参考訳): マルチホップ読解には、生のテキストを推論する能力だけでなく、複数のエビデンスを組み合わせる能力も必要である。
本稿では,言語モデルが難しいマルチホップ質問をより理解し,「複雑で構成的」な推論を行うための新しい学習手法を提案する。
まず、学習可能な質問分解器を用いて、複数の質問を複数の質問に分解することを学ぶ。
これらのサブクエリに答える代わりに、元の質問とコンテキストと直接結合し、読み理解モデルを利用して、シーケンスからシーケンスまでの方法で回答を予測します。
これら2つのコンポーネントで同じ言語モデルを使用することで、DROPデータセットのハードサブセット上の7.2/6.1絶対F1ポイントのベースラインを上回っます。
関連論文リスト
- STOC-TOT: Stochastic Tree-of-Thought with Constrained Decoding for Complex Reasoning in Multi-Hop Question Answering [8.525847131940031]
マルチホップ質問応答(MHQA)は、複雑な質問に答えるために複数の通路から情報を検索し統合するモデルを必要とする。
近年のシステムでは、大規模言語モデルのパワーを活用し、証拠検索と推論のプロンプトを統合している。
MHQAの制約付き復号法であるSTOC-TOTを提案する。
論文 参考訳(メタデータ) (2024-07-04T07:17:53Z) - HOLMES: Hyper-Relational Knowledge Graphs for Multi-hop Question Answering using LLMs [9.559336828884808]
大規模言語モデル(LLM)は、単純な(シングルホップ)質問に答えるには適しています。
質問の複雑さが増すにつれて、LLMの性能は低下する。
最近の手法では、構造化知識三重項を原文に組み込むことで、この負担を軽減しようとしている。
本稿では,知識グラフ(KG)を用いてコンテキスト認識し,クエリ関連情報を含むように蒸留する手法を提案する。
論文 参考訳(メタデータ) (2024-06-10T05:22:49Z) - Improving Question Generation with Multi-level Content Planning [70.37285816596527]
本稿では、与えられたコンテキストと回答から質問を生成する問題に対処し、特に拡張されたコンテキストをまたいだマルチホップ推論を必要とする質問に焦点をあてる。
具体的には、キーフレーズを同時に選択して完全な回答を生成するFA-modelと、生成した全回答を付加的な入力として取り込んだQ-modelの2つのコンポーネントを含む。
論文 参考訳(メタデータ) (2023-10-20T13:57:01Z) - Successive Prompting for Decomposing Complex Questions [50.00659445976735]
最近の研究は、大規模言語モデル(LM)の機能を活用して、数ショットで複雑な質問応答を行う。
そこでは、複雑なタスクを単純なタスクに繰り返し分解し、それを解決し、最終解を得るまでプロセスを繰り返します。
我々の最良のモデル(逐次プロンプト付き)は、DROPデータセットの数ショットバージョンにおいて、5%の絶対F1の改善を実現します。
論文 参考訳(メタデータ) (2022-12-08T06:03:38Z) - Locate Then Ask: Interpretable Stepwise Reasoning for Multi-hop Question
Answering [71.49131159045811]
マルチホップ推論では、複雑な質問に答えるために複数の文書を集約する必要がある。
既存の方法は通常、マルチホップの質問を単純なシングルホップの質問に分解する。
そこで本研究では,単一ホップ支援文識別と単一ホップ質問生成の両方を組み込む,解釈可能な段階的推論フレームワークを提案する。
論文 参考訳(メタデータ) (2022-08-22T13:24:25Z) - Semantic Sentence Composition Reasoning for Multi-Hop Question Answering [1.773120658816994]
マルチホップ質問応答タスクに対する意味文合成推論手法を提案する。
事実文と多段階意味検索の組み合わせにより,本手法はモデル学習や推論において,より包括的な文脈情報を提供することができる。
実験の結果,既存の学習済み言語モデルを組み込んで,QASCタスクにおける既存のSOTA法を約9%向上させることができた。
論文 参考訳(メタデータ) (2022-03-01T00:35:51Z) - Discrete Reasoning Templates for Natural Language Understanding [79.07883990966077]
我々は,複雑な質問をより単純な質問に分解する手法を提案する。
事前定義された推論テンプレートの指示に従って最終回答を導出する。
我々のアプローチは、解釈可能でありながら最先端技術と競合し、監督をほとんど必要としないことを示す。
論文 参考訳(メタデータ) (2021-04-05T18:56:56Z) - Coarse-grained decomposition and fine-grained interaction for multi-hop
question answering [5.88731657602706]
多くの複雑なクエリはマルチホップ推論を必要とする。
Bi-DAFは通常、複雑な質問における単語の表面意味論のみをキャプチャする。
マルチホップ回答のための新しいモデルアーキテクチャを提案する。
論文 参考訳(メタデータ) (2021-01-15T06:56:34Z) - Text Modular Networks: Learning to Decompose Tasks in the Language of
Existing Models [61.480085460269514]
本稿では,既存のモデルで解けるより単純なモデルに分解することで,複雑なタスクを解くための解釈可能なシステムを構築するためのフレームワークを提案する。
我々はこのフレームワークを用いて、ニューラルネットワークのファクトイド単一スパンQAモデルとシンボリック電卓で答えられるサブクエストに分解することで、マルチホップ推論問題に答えられるシステムであるModularQAを構築する。
論文 参考訳(メタデータ) (2020-09-01T23:45:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。