論文の概要: MURMUR: Modular Multi-Step Reasoning for Semi-Structured Data-to-Text Generation

• arxiv url: http://arxiv.org/abs/2212.08607v1
• Date: Fri, 16 Dec 2022 17:36:23 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-19 14:09:55.030705
• Title: MURMUR: Modular Multi-Step Reasoning for Semi-Structured Data-to-Text Generation
• Title（参考訳）: MURMUR:半構造化データ-テキスト生成のためのモジュール型マルチステップ推論
• Authors: Swarnadeep Saha, Xinyan Velocity Yu, Mohit Bansal, Ramakanth Pasunuru, Asli Celikyilmaz
• Abstract要約: 多段階推論を用いた半構造化データからテキストを生成するための,ニューロシンボリックなモジュラーアプローチであるMURMURを提案する。 WebNLG や LogicNLG のような2つのデータ・テキスト生成タスクについて実験を行った。
• 参考スコア（独自算出の注目度）: 102.20036684996248
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Prompting large language models has enabled significant recent progress in multi-step reasoning over text. However, when applied to text generation from semi-structured data (e.g., graphs or tables), these methods typically suffer from low semantic coverage, hallucination, and logical inconsistency. We propose MURMUR, a neuro-symbolic modular approach to text generation from semi-structured data with multi-step reasoning. MURMUR is a best-first search method that generates reasoning paths using: (1) neural and symbolic modules with specific linguistic and logical skills, (2) a grammar whose production rules define valid compositions of modules, and (3) value functions that assess the quality of each reasoning step. We conduct experiments on two diverse data-to-text generation tasks like WebNLG and LogicNLG. These tasks differ in their data representations (graphs and tables) and span multiple linguistic and logical skills. MURMUR obtains significant improvements over recent few-shot baselines like direct prompting and chain-of-thought prompting, while also achieving comparable performance to fine-tuned GPT-2 on out-of-domain data. Moreover, human evaluation shows that MURMUR generates highly faithful and correct reasoning paths that lead to 26% more logically consistent summaries on LogicNLG, compared to direct prompting.
• Abstract（参考訳）: 大規模言語モデルのプロンプトにより、テキスト上の多段階推論が大幅に進歩した。 しかし、半構造化データ(グラフやテーブルなど)からテキストを生成する場合、これらの手法は通常、意味的カバレッジ、幻覚、論理的矛盾に悩まされる。 本稿では,マルチステップ推論を用いた半構造化データからのテキスト生成のためのニューロシンボリックモジュラーアプローチであるmurmurを提案する。 MURMURは,(1)特定の言語的・論理的スキルを持つニューラル・シンボリック・モジュール,(2)生産規則がモジュールの有効構成を定義する文法,(3)各推論ステップの品質を評価する値関数を用いて推論経路を生成する最良探索法である。 webnlg と logicnlg の2つの多様なデータ対テキスト生成タスクについて実験を行った。 これらのタスクはデータ表現(グラフとテーブル)で異なり、複数の言語的および論理的スキルにまたがる。 MURMURは、ダイレクトプロンプトやチェーン・オブ・シークレット・プロンプトのような最近の数ショットベースラインよりも大幅に改善され、ドメイン外のデータで微調整されたGPT-2に匹敵するパフォーマンスを実現している。 さらに,人間による評価では,MURMURは論理的に一貫した26%をLogicNLG上で直接的プロンプトよりも有意かつ正しい推論経路を生成する。

関連論文リスト

• Exploration of Masked and Causal Language Modelling for Text Generation [6.26998839917804]
  本稿では,テキスト生成タスクにおける因果言語モデリング手法の広範な比較を行う。 まず、定量的な指標を用いて、コヒーレンスと文法的正当性を分析する定性的な人的評価を行う。 その結果、すべてのデータセットでテキスト生成において、CLMは一貫して上回っていることがわかった。
  論文  参考訳（メタデータ） (2024-05-21T09:33:31Z)
• MuSR: Testing the Limits of Chain-of-thought with Multistep Soft Reasoning [63.80739044622555]
  自然言語ナラティブで指定されたソフト推論タスクの言語モデルを評価するデータセットである MuSR を紹介する。 このデータセットには2つの重要な特徴がある。まず、ニューロシンボリック合成-自然生成アルゴリズムによって生成される。 第二に、私たちのデータセットインスタンスは、実世界の推論の領域に対応する無料のテキスト物語です。
  論文  参考訳（メタデータ） (2023-10-24T17:59:20Z)
• Abstract Meaning Representation-Based Logic-Driven Data Augmentation for Logical Reasoning [27.224364543134094]
  本稿では,論理駆動型データ拡張手法AMR-LDAを提案する。 AMR-LDAは元のテキストを抽象的意味表現(AMR)グラフに変換する。 修正されたAMRグラフは、拡張データを生成するためにテキストに変換される。
  論文  参考訳（メタデータ） (2023-05-21T23:16:26Z)
• Improving Logical-Level Natural Language Generation with Topic-Conditioned Data Augmentation and Logical Form Generation [18.93964332724296]
  本稿ではトピック条件付きデータ拡張(TopicDA)を提案し,テーブルから直接論理形式とテキスト記述を生成する。 論理形式生成(LG)はLogic2textの2つのタスクであり、テーブルのテキスト記述に基づいて有効な論理形式を生成する必要がある。 また,ラベル付きデータと拡張データの両方でLogic2textとLGモデルを併用した半教師付き学習手法を提案する。
  論文  参考訳（メタデータ） (2021-12-12T13:50:18Z)
• LOGEN: Few-shot Logical Knowledge-Conditioned Text Generation with Self-training [76.90793623822866]
  数ショット設定で論理的知識条件付きテキスト生成のための統一的なフレームワークを提案する。 本手法は, 自己学習を利用して, コンテンツと構造整合性に基づく擬似論理形式を抽出する。
  論文  参考訳（メタデータ） (2021-12-02T16:49:41Z)
• Logic-Consistency Text Generation from Semantic Parses [32.543257899910216]
  本稿ではまず,意味解析から論理一貫性のあるテキストを生成するフレームワークであるSNOWBALLを提案する。 次に,意味解析と生成したテキスト間の論理的整合性を評価するための新しい自動計量BLECを提案する。
  論文  参考訳（メタデータ） (2021-08-02T01:12:18Z)
• Logic-Driven Context Extension and Data Augmentation for Logical Reasoning of Text [65.24325614642223]
  論理的な記号や表現をテキストで理解し、答えにたどり着くよう提案します。 このような論理的情報に基づいて,文脈拡張フレームワークとデータ拡張アルゴリズムを提案する。 本手法は最先端の性能を実現し,論理駆動コンテキスト拡張フレームワークとデータ拡張アルゴリズムの両方が精度向上に寄与する。
  論文  参考訳（メタデータ） (2021-05-08T10:09:36Z)
• Deep Graph Matching and Searching for Semantic Code Retrieval [76.51445515611469]
  本稿では,グラフニューラルネットワークに基づくエンドツーエンドのディープグラフマッチングと探索モデルを提案する。 まず、自然言語クエリテキストとプログラミング言語のコードスニペットをグラフ構造化データで表現する。 特に、DGMSは、個々のクエリテキストやコードスニペットのより構造的な情報をキャプチャするだけでなく、それらの微妙な類似性も学習する。
  論文  参考訳（メタデータ） (2020-10-24T14:16:50Z)
• Logical Natural Language Generation from Open-Domain Tables [107.04385677577862]
  本稿では,その事実に関連付けられた自然言語文をモデルで生成するタスクを提案する。 提案した論理的 NLG 問題の研究を容易にするために,幅広い論理的・記号的推論を特徴とする既存の TabFact データセットcitechen 2019tabfact を用いる。 新しいタスクは、シーケンス順序と論理順序のミスマッチのため、既存のモノトニック生成フレームワークに課題をもたらす。
  論文  参考訳（メタデータ） (2020-04-22T06:03:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。