論文の概要: Parameter-Efficient Abstractive Question Answering over Tables or Text

• arxiv url: http://arxiv.org/abs/2204.03357v1
• Date: Thu, 7 Apr 2022 10:56:29 GMT
• ステータス: 処理完了
• システム内更新日: 2022-04-08 23:17:56.846326
• Title: Parameter-Efficient Abstractive Question Answering over Tables or Text
• Title（参考訳）: 表やテキスト上でのパラメータ効率の高い抽象的質問応答
• Authors: Vaishali Pal, Evangelos Kanoulas, Maarten de Rijke
• Abstract要約: QAシステムを求める情報の長期的な野望は、マルチモーダルなコンテキストを推論し、ユーザクエリに対する自然な回答を生成することである。 メモリ集約型事前学習言語モデルは、構造化されていないテキストや構造化テーブルのような特定のモードでQAデータ上のモデルを微調整することで、QAのような下流タスクに適応する。 パラメータ効率の良いアダプタは、トランス層間の小さなタスク固有のボトルネック層を加算し、訓練する。
• 参考スコア（独自算出の注目度）: 60.86457030988444
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: A long-term ambition of information seeking QA systems is to reason over multi-modal contexts and generate natural answers to user queries. Today, memory intensive pre-trained language models are adapted to downstream tasks such as QA by fine-tuning the model on QA data in a specific modality like unstructured text or structured tables. To avoid training such memory-hungry models while utilizing a uniform architecture for each modality, parameter-efficient adapters add and train small task-specific bottle-neck layers between transformer layers. In this work, we study parameter-efficient abstractive QA in encoder-decoder models over structured tabular data and unstructured textual data using only 1.5% additional parameters for each modality. We also ablate over adapter layers in both encoder and decoder modules to study the efficiency-performance trade-off and demonstrate that reducing additional trainable parameters down to 0.7%-1.0% leads to comparable results. Our models out-perform current state-of-the-art models on tabular QA datasets such as Tablesum and FeTaQA, and achieve comparable performance on a textual QA dataset such as NarrativeQA using significantly less trainable parameters than fine-tuning.
• Abstract（参考訳）: QAシステムを求める情報の長期的な野望は、マルチモーダルなコンテキストを推論し、ユーザクエリに対する自然な回答を生成することである。 現在、メモリ集約型事前学習言語モデルは、構造化されていないテキストや構造化テーブルのような特定のモードでQAデータ上のモデルを微調整することで、QAのような下流タスクに適応している。 パラメータ効率の良いアダプタは、トランスフォーマー層間で小さなタスク固有のボトルネック層を追加して訓練する。 本研究では,構造化表データおよび非構造化テキストデータに対するエンコーダ・デコーダモデルにおけるパラメータ効率の高い抽象的qaについて,各モーダリティに対する1.5%の追加パラメータのみを用いて検討する。 また、エンコーダとデコーダモジュールの両方のアダプタ層をアブレーションして、効率と性能のトレードオフを調査し、トレーニング可能なパラメータを0.7%-1.0%に減らして、同等の結果をもたらすことを示した。 本研究では,Tablesum や FeTaQA などの表形式 QA データセットの最先端モデルより優れており,NarrativeQA のようなテキスト型 QA データセットでは,微調整よりもトレーニング可能なパラメータが大幅に少ない。

関連論文リスト

• Graph Guided Question Answer Generation for Procedural Question-Answering [29.169773816553153]
  本稿では,タスク固有質問応答(QA)モデルのための,完全かつ高品質なトレーニングデータを生成する方法を提案する。 キーテクノロジー・イネーブルは、手続き的テキストから質問応答自動生成のための新しいメカニズムである。 GPT3 や ChatGPT を超越しても,本データを用いて訓練した小型モデルは,目標QA タスクにおいて優れた性能を発揮することを示す。
  論文  参考訳（メタデータ） (2024-01-24T17:01:42Z)
• Context-PEFT: Efficient Multi-Modal, Multi-Task Fine-Tuning [12.648711621637663]
  この論文は小説を紹介します。 COCO-Efficient Fine-Tuning (PEFT) framework for multi-modal, multi-task transfer learning with pre-trained language model。 トークンのドメインに基づいて異なる適応パラメータ群を学習するContext-PEFTを提案する。 提案手法はキャプションタスクで評価され、類似したデータ制約下での完全な微調整よりも優れる。
  論文  参考訳（メタデータ） (2023-12-14T13:00:24Z)
• Energy-efficient Task Adaptation for NLP Edge Inference Leveraging Heterogeneous Memory Architectures [68.91874045918112]
  Adapter-ALBERTは、様々なタスクにわたる最大データ再利用のための効率的なモデル最適化である。 検証されたNLPエッジアクセラレータ上でシミュレーションを行うことにより、モデルを不均一なオンチップメモリアーキテクチャにマッピングする利点を実証する。
  論文  参考訳（メタデータ） (2023-03-25T14:40:59Z)
• OmniTab: Pretraining with Natural and Synthetic Data for Few-shot Table-based Question Answering [106.73213656603453]
  最小限のアノテーションによるテーブルベースのQAモデルを構築した。 本稿では、自然データと合成データの両方を消費する全能事前学習手法を提案する。
  論文  参考訳（メタデータ） (2022-07-08T01:23:45Z)
• MMTM: Multi-Tasking Multi-Decoder Transformer for Math Word Problems [0.0]
  本稿では,事前学習時にマルチタスクとマルチデコーダを利用する新しいモデルMMTMを提案する。 MMTMモデルはより優れた数学的推論能力と一般化可能性を実現する。 我々は,Seq2Seq,GTS,Graph2Treeのアートベースラインモデルの最高の状態を,対向的課題データセットSVAMPに対して19.4%の相対的な改善で証明する。
  論文  参考訳（メタデータ） (2022-06-02T19:48:36Z)
• Capturing Row and Column Semantics in Transformer Based Question Answering over Tables [9.347393642549806]
  これらの特化事前学習技術を用いることなく、テーブルQAタスクにおいて優れた性能が得られることを示す。 最近のベンチマーク実験では、提案手法が表上のセル値を効果的に検出できることが証明されている(ウィキ検索質問のhit@1精度は最大98%)。
  論文  参考訳（メタデータ） (2021-04-16T18:22:30Z)
• Generating Diverse and Consistent QA pairs from Contexts with Information-Maximizing Hierarchical Conditional VAEs [62.71505254770827]
  非構造化テキストを文脈として与えられたQAペアを生成するための条件付き変分オートエンコーダ(HCVAE)を提案する。 我々のモデルは、トレーニングにわずかなデータしか使わず、両方のタスクの全てのベースラインに対して印象的なパフォーマンス向上が得られる。
  論文  参考訳（メタデータ） (2020-05-28T08:26:06Z)
• Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks [133.93803565077337]
  検索強化生成モデルは、事前訓練されたパラメトリックメモリと非パラメトリックメモリを組み合わせて言語生成を行う。 我々は、RAGモデルが、最先端パラメトリックのみのセク2セックベースラインよりも、より具体的で、多様で、現実的な言語を生成することを示す。
  論文  参考訳（メタデータ） (2020-05-22T21:34:34Z)
• Conversational Question Reformulation via Sequence-to-Sequence Architectures and Pretrained Language Models [56.268862325167575]
  本稿では、列列列構造と事前学習言語モデル(PLM)を用いた会話型質問修正(CQR)の実証的研究について述べる。 我々はPLMを利用して、CQRタスクの目的である最大推定におけるトークン・トークン・トークン・トークンの独立性の強い仮定に対処する。 我々は、最近導入されたCANARDデータセットの微調整PLMをドメイン内タスクとして評価し、TREC 2019 CAsT Trackのデータからドメイン外タスクとしてモデルを検証する。
  論文  参考訳（メタデータ） (2020-04-04T11:07:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。