論文の概要: A Neural-Symbolic Approach to Natural Language Understanding

• arxiv url: http://arxiv.org/abs/2203.10557v1
• Date: Sun, 20 Mar 2022 14:12:44 GMT
• ステータス: 処理完了
• システム内更新日: 2022-03-23 10:01:08.977040
• Title: A Neural-Symbolic Approach to Natural Language Understanding
• Title（参考訳）: 自然言語理解へのニューラルシンボリックアプローチ
• Authors: Zhixuan Liu, Zihao Wang, Yuan Lin, Hang Li
• Abstract要約: 我々はニューラルシンボリックプロセッサ(NSP)と呼ばれるNLUの新しいフレームワークを提案する。 NSPは、ニューラル処理に基づいてアナログ推論を行い、ニューラル処理とシンボリック処理の両方に基づいて論理推論を行う。 ケーススタディとして、質問応答(QA)と自然言語推論(NLI)という2つのNLUタスクの実験を行った。
• 参考スコア（独自算出の注目度）: 12.752124450670602
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Deep neural networks, empowered by pre-trained language models, have achieved remarkable results in natural language understanding (NLU) tasks. However, their performances can deteriorate drastically when logical reasoning is needed in the process. This is because, ideally, NLU needs to depend on not only analogical reasoning, which deep neural networks are good at, but also logical reasoning. According to the dual-process theory, analogical reasoning and logical reasoning are respectively carried out by System 1 and System 2 in the human brain. Inspired by the theory, we present a novel framework for NLU called Neural-Symbolic Processor (NSP), which performs analogical reasoning based on neural processing and performs logical reasoning based on both neural and symbolic processing. As a case study, we conduct experiments on two NLU tasks, question answering (QA) and natural language inference (NLI), when numerical reasoning (a type of logical reasoning) is necessary. The experimental results show that our method significantly outperforms state-of-the-art methods in both tasks.
• Abstract（参考訳）: 事前訓練された言語モデルによって強化されたディープニューラルネットワークは、自然言語理解(NLU)タスクにおいて顕著な成果を上げている。 しかし、その過程で論理的推論が必要な場合、その性能は劇的に悪化する。 これは、理想的には、NLUは、深いニューラルネットワークが得意とするアナログ推論だけでなく、論理推論にも依存する必要があるためである。 二重プロセス理論によれば、ヒト脳内のシステム1とシステム2によって、アナログ推論と論理推論がそれぞれ実行される。 この理論に触発されて,ニューラル・シンボリック・プロセッサ(NSP)と呼ばれるニューラル・シンボリック・プロセッサ(NSP)という,ニューラル・シンボリック・プロセッシングとニューラル・シンボリック・プロセッシングの両方に基づく論理的推論を行うNLUの新しいフレームワークを提案する。 本研究では,2つのNLUタスク,質問応答(QA)と自然言語推論(NLI)について,数値推論(論理推論の一種)が必要な場合の実験を行う。 実験結果から,本手法は両タスクの最先端手法よりも優れていた。

関連論文リスト

• Formal Explanations for Neuro-Symbolic AI [28.358183683756028]
  本稿では,ニューロシンボリックシステムの決定を説明するための公式なアプローチを提案する。 これはまず、説明が必要な神経情報の個々の部分のサブセットを特定するのに役立つ。 これに続いて、階層的な形式的な説明の簡潔さを促進するために、互いに独立して、これらの個々の神経入力のみを説明する。
  論文  参考訳（メタデータ） (2024-10-18T07:08:31Z)
• Continual Reasoning: Non-Monotonic Reasoning in Neurosymbolic AI using Continual Learning [2.912595438026074]
  ニューラルシンボリックシステムと連続学習の手法を組み合わせることで、Logic Networksはより高い精度を得ることができることを示す。 LTNには、知識とデータからの学習のカリキュラムをリコールで導入することにより、継続的な学習が加えられる。 結果は,非単調推論問題において有意な改善が認められた。
  論文  参考訳（メタデータ） (2023-05-03T15:11:34Z)
• Deep Learning Models to Study Sentence Comprehension in the Human Brain [0.1503974529275767]
  自然言語を処理する最近の人工ニューラルネットワークは、文レベルの理解を必要とするタスクにおいて、前例のないパフォーマンスを達成する。 我々は、これらの人工言語モデルと人間の脳活動を比較する研究をレビューし、このアプローチが自然言語理解に関わる神経プロセスの理解をいかに改善したかを評価する。
  論文  参考訳（メタデータ） (2023-01-16T10:31:25Z)
• NELLIE: A Neuro-Symbolic Inference Engine for Grounded, Compositional, and Explainable Reasoning [59.16962123636579]
  本稿では,Prologベースの推論エンジンを新たに提案する。 我々は手作りのルールを、ニューラルネットワークモデリング、ガイド付き生成、半密検索の組み合わせで置き換える。 我々の実装であるNELLIEは、完全に解釈可能なエンドツーエンドの基底QAを示す最初のシステムである。
  論文  参考訳（メタデータ） (2022-09-16T00:54:44Z)
• Neuro-Symbolic Inductive Logic Programming with Logical Neural Networks [65.23508422635862]
  我々は最近提案された論理ニューラルネットワーク(LNN)を用いた学習規則を提案する。 他のものと比較して、LNNは古典的なブール論理と強く結びついている。 標準ベンチマークタスクの実験では、LNNルールが極めて解釈可能であることを確認した。
  論文  参考訳（メタデータ） (2021-12-06T19:38:30Z)
• Improving Coherence and Consistency in Neural Sequence Models with Dual-System, Neuro-Symbolic Reasoning [49.6928533575956]
  我々は、神経系1と論理系2の間を仲介するために神経推論を用いる。 強靭なストーリー生成とグラウンドド・インストラクション・フォローリングの結果、このアプローチは神経系世代におけるコヒーレンスと精度を高めることができることを示した。
  論文  参考訳（メタデータ） (2021-07-06T17:59:49Z)
• Logic Tensor Networks [9.004005678155023]
  学習と推論をサポートする神経シンボリック形式論と計算モデルであるLogic Networks(LTN)を提示する。 LTNがいくつかのAIタスクの仕様と計算に一様言語を提供することを示す。
  論文  参考訳（メタデータ） (2020-12-25T22:30:18Z)
• Question Answering over Knowledge Bases by Leveraging Semantic Parsing and Neuro-Symbolic Reasoning [73.00049753292316]
  本稿では,意味解析と推論に基づくニューロシンボリック質問回答システムを提案する。 NSQAはQALD-9とLC-QuAD 1.0で最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2020-12-03T05:17:55Z)
• Neural Logic Reasoning [47.622957656745356]
  本稿では,ディープラーニングと論理推論の能力を統合するために,論理統合ニューラルネットワーク(LINN)を提案する。 LINNは、神経モジュールとしてAND、OR、NOTなどの基本的な論理操作を学び、推論のためにネットワークを通して命題論理推論を行う。 実験の結果、LINNはTop-Kレコメンデーションにおいて最先端のレコメンデーションモデルを大幅に上回っていることがわかった。
  論文  参考訳（メタデータ） (2020-08-20T14:53:23Z)
• Compositional Explanations of Neurons [52.71742655312625]
  本稿では, 合成論理的概念を同定し, 深部表現におけるニューロンの説明手順について述べる。 本稿では,視覚と自然言語処理のモデルにおける解釈可能性に関するいくつかの疑問に答えるために,この手順を用いる。
  論文  参考訳（メタデータ） (2020-06-24T20:37:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。