論文の概要: Graph Guided Question Answer Generation for Procedural Question-Answering

• arxiv url: http://arxiv.org/abs/2401.13594v1
• Date: Wed, 24 Jan 2024 17:01:42 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-25 14:09:12.175371
• Title: Graph Guided Question Answer Generation for Procedural Question-Answering
• Title（参考訳）: 手続き的質問応答のためのグラフ誘導質問応答生成
• Authors: Hai X. Pham, Isma Hadji, Xinnuo Xu, Ziedune Degutyte, Jay Rainey, Evangelos Kazakos, Afsaneh Fazly, Georgios Tzimiropoulos, Brais Martinez
• Abstract要約: 本稿では,タスク固有質問応答(QA)モデルのための,完全かつ高品質なトレーニングデータを生成する方法を提案する。 キーテクノロジー・イネーブルは、手続き的テキストから質問応答自動生成のための新しいメカニズムである。 GPT3 や ChatGPT を超越しても,本データを用いて訓練した小型モデルは,目標QA タスクにおいて優れた性能を発揮することを示す。
• 参考スコア（独自算出の注目度）: 29.169773816553153
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: In this paper, we focus on task-specific question answering (QA). To this end, we introduce a method for generating exhaustive and high-quality training data, which allows us to train compact (e.g., run on a mobile device), task-specific QA models that are competitive against GPT variants. The key technological enabler is a novel mechanism for automatic question-answer generation from procedural text which can ingest large amounts of textual instructions and produce exhaustive in-domain QA training data. While current QA data generation methods can produce well-formed and varied data, their non-exhaustive nature is sub-optimal for training a QA model. In contrast, we leverage the highly structured aspect of procedural text and represent each step and the overall flow of the procedure as graphs. We then condition on graph nodes to automatically generate QA pairs in an exhaustive and controllable manner. Comprehensive evaluations of our method show that: 1) small models trained with our data achieve excellent performance on the target QA task, even exceeding that of GPT3 and ChatGPT despite being several orders of magnitude smaller. 2) semantic coverage is the key indicator for downstream QA performance. Crucially, while large language models excel at syntactic diversity, this does not necessarily result in improvements on the end QA model. In contrast, the higher semantic coverage provided by our method is critical for QA performance.
• Abstract（参考訳）: 本稿では,タスク固有の質問応答(QA)に焦点を当てる。 そこで本研究では,GPTと競合するタスク固有QAモデルであるコンパクトな(モバイルデバイス上で動作させるなど)トレーニングを可能にする,完全かつ高品質なトレーニングデータを生成する方法を提案する。 重要な技術的イネーブルは、大量のテキスト命令を取り込み、網羅的なドメイン内QAトレーニングデータを生成するプロシージャテキストから自動質問応答生成のための新しいメカニズムである。 現状のQAデータ生成手法は, 良好で多様なデータを生成することができるが, その非出力特性はQAモデルのトレーニングに最適である。 対照的に、手続きテキストの高度に構造化された側面を活用し、手順の各ステップと全体のフローをグラフとして表現する。 次に、グラフノードに条件を定め、完全かつ制御可能な方法でQAペアを自動的に生成する。 本手法の総合評価は以下のとおりである。 1) GPT3 や ChatGPT よりも数桁小さいにもかかわらず, 目標QA タスクにおいて, 学習した小型モデルは優れた性能を発揮する。 2) セマンティックカバレッジは、下流のQAパフォーマンスの重要な指標です。 重要なことに、大きな言語モデルは構文的多様性に優れているが、必ずしも最終QAモデルの改善をもたらすとは限らない。 対照的に,本手法により提供されるセマンティックカバレッジは,QA性能に極めて重要である。

関連論文リスト

• QASnowball: An Iterative Bootstrapping Framework for High-Quality Question-Answering Data Generation [67.27999343730224]
  QAデータ拡張のための反復型ブートストラップフレームワーク(QASnowball)を導入する。 QASnowballは、教師付きサンプルのシードセットに基づいて、大規模で高品質なQAデータを反復的に生成することができる。 本研究では, 高資源の英語シナリオと中資源の中国語シナリオで実験を行い, 実験結果から, QASnowball が生成したデータによりQAモデルを容易に作成できることが示唆された。
  論文  参考訳（メタデータ） (2023-09-19T05:20:36Z)
• An Empirical Comparison of LM-based Question and Answer Generation Methods [79.31199020420827]
  質問と回答の生成(QAG)は、コンテキストが与えられた質問と回答のペアのセットを生成することで構成される。 本稿では,シーケンス・ツー・シーケンス言語モデル(LM)を微調整する3つの異なるQAG手法を用いて,ベースラインを確立する。 実験により、学習時間と推論時間の両方で計算的に軽量なエンドツーエンドQAGモデルが一般に堅牢であり、他のより複雑なアプローチよりも優れていることが示された。
  論文  参考訳（メタデータ） (2023-05-26T14:59:53Z)
• Closed-book Question Generation via Contrastive Learning [20.644215991166895]
  コントラスト学習モジュールと回答再構成モジュールを併用した新しいQGモデルを提案する。 提案手法を応用して,既存のクローズドブックQAシステムを改善する方法について述べる。
  論文  参考訳（メタデータ） (2022-10-13T06:45:46Z)
• Improved and Efficient Conversational Slot Labeling through Question Answering [48.670822631047635]
  Transformer-based Pretrained Language Model (PLM) は、自然言語理解(NLU)タスクの大部分に適合しないパフォーマンスを提供する。 本稿では,対話のためのNLUの重要なコンポーネントであるテキストスロットラベリング(SL)のモデリングと研究に焦点をあてる。 本稿では,QA調整型PLMをSLタスクに適用し,新しい最先端性能を実現する方法を示す。
  論文  参考訳（メタデータ） (2022-04-05T11:34:35Z)
• Knowledge Graph Question Answering using Graph-Pattern Isomorphism [0.0]
  TeBaQAは、SPARQLクエリの基本グラフパターンからグラフ同型に基づいて、質問に答えることを学ぶ。 TeBaQAはQALD-8で最先端のパフォーマンスを達成し、QALD-9とLC-QuAD v1で同等の結果を提供する。
  論文  参考訳（メタデータ） (2021-03-11T16:03:24Z)
• Generating Diverse and Consistent QA pairs from Contexts with Information-Maximizing Hierarchical Conditional VAEs [62.71505254770827]
  非構造化テキストを文脈として与えられたQAペアを生成するための条件付き変分オートエンコーダ(HCVAE)を提案する。 我々のモデルは、トレーニングにわずかなデータしか使わず、両方のタスクの全てのベースラインに対して印象的なパフォーマンス向上が得られる。
  論文  参考訳（メタデータ） (2020-05-28T08:26:06Z)
• Harvesting and Refining Question-Answer Pairs for Unsupervised QA [95.9105154311491]
  教師なし質問回答(QA)を改善するための2つのアプローチを提案する。 まず、ウィキペディアから語彙的・構文的に異なる質問を抽出し、質問応答対のコーパスを自動的に構築する(RefQAと名づけられる)。 第2に、より適切な回答を抽出するためにQAモデルを活用し、RefQA上でデータを反復的に洗練する。
  論文  参考訳（メタデータ） (2020-05-06T15:56:06Z)
• Template-Based Question Generation from Retrieved Sentences for Improved Unsupervised Question Answering [98.48363619128108]
  擬似学習データを用いてQAモデルを訓練するための教師なしアプローチを提案する。 関連した検索文に簡単なテンプレートを適用してQA学習のための質問を生成すると、元の文脈文よりも、下流QAのパフォーマンスが向上することを示す。
  論文  参考訳（メタデータ） (2020-04-24T17:57:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。