論文の概要: Learning Symbolic Rules for Reasoning in Quasi-Natural Language
- arxiv url: http://arxiv.org/abs/2111.12038v1
- Date: Tue, 23 Nov 2021 17:49:00 GMT
- ステータス: 処理完了
- システム内更新日: 2021-11-24 14:14:31.869255
- Title: Learning Symbolic Rules for Reasoning in Quasi-Natural Language
- Title(参考訳): 準自然言語における推論のための記号規則の学習
- Authors: Kaiyu Yang and Jia Deng
- Abstract要約: 我々は,ルールを手作業で構築することなく,自然言語入力で推論できるルールベースシステムを構築した。
本稿では,形式論理文と自然言語文の両方を表現可能な"Quasi-Natural"言語であるMetaQNLを提案する。
提案手法は,複数の推論ベンチマークにおける最先端の精度を実現する。
- 参考スコア(独自算出の注目度): 74.96601852906328
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Symbolic reasoning, rule-based symbol manipulation, is a hallmark of human
intelligence. However, rule-based systems have had limited success competing
with learning-based systems outside formalized domains such as automated
theorem proving. We hypothesize that this is due to the manual construction of
rules in past attempts. In this work, we ask how we can build a rule-based
system that can reason with natural language input but without the manual
construction of rules. We propose MetaQNL, a "Quasi-Natural" language that can
express both formal logic and natural language sentences, and MetaInduce, a
learning algorithm that induces MetaQNL rules from training data consisting of
questions and answers, with or without intermediate reasoning steps. Our
approach achieves state-of-the-art accuracy on multiple reasoning benchmarks;
it learns compact models with much less data and produces not only answers but
also checkable proofs. Further, experiments on a real-world morphological
analysis benchmark show that it is possible for our method to handle noise and
ambiguity. Code will be released at https://github.com/princeton-vl/MetaQNL.
- Abstract(参考訳): 記号推論(英: symbol reasoning)とは、人間の知性の象徴である。
しかし、ルールベースのシステムでは、自動定理証明のような形式化された領域以外の学習ベースのシステムとの競合が限られている。
これは過去の試みにおける規則の手動構築によるものであると仮定する。
本研究では,ルールを手作業で構築することなく,自然言語入力で推論できるルールベースのシステムを構築する方法について尋ねる。
形式論理文と自然言語文の両方を表現できる「4次自然言語」であるmetaqnlと,質問と回答からなる学習データからメタqnl規則を中間的な推論ステップの有無にかかわらず誘導する学習アルゴリズムであるmetainduceを提案する。
より少ないデータでコンパクトなモデルを学び、答えだけでなく、検証可能な証明も生成する。
さらに,実世界の形態解析ベンチマーク実験により,ノイズやあいまいさに対処できることが示唆された。
コードはhttps://github.com/princeton-vl/MetaQNLでリリースされる。
関連論文リスト
- Training Neural Networks as Recognizers of Formal Languages [87.06906286950438]
形式言語理論は、特に認識者に関するものである。
代わりに、非公式な意味でのみ類似したプロキシタスクを使用するのが一般的である。
ニューラルネットワークを文字列のバイナリ分類器として直接訓練し評価することで、このミスマッチを補正する。
論文 参考訳(メタデータ) (2024-11-11T16:33:25Z) - Rule Learning as Machine Translation using the Atomic Knowledge Bank [8.9969167872226]
自然言語で規則を表現する文を論理規則に翻訳するトランスフォーマーの能力について検討する。
我々は文献からDKETデータセットを用いて実験を行い、原子知識銀行に基づく言語から論理への翻訳のためのデータセットを作成する。
論文 参考訳(メタデータ) (2023-11-05T20:48:54Z) - ChatRule: Mining Logical Rules with Large Language Models for Knowledge
Graph Reasoning [107.61997887260056]
そこで我々は,知識グラフ上の論理ルールをマイニングするための大規模言語モデルの力を解き放つ新しいフレームワークChatRuleを提案する。
具体的には、このフレームワークは、KGのセマンティック情報と構造情報の両方を活用するLLMベースのルールジェネレータで開始される。
生成されたルールを洗練させるために、ルールランキングモジュールは、既存のKGから事実を取り入れてルール品質を推定する。
論文 参考訳(メタデータ) (2023-09-04T11:38:02Z) - Meta-Reasoning: Semantics-Symbol Deconstruction for Large Language Models [34.22393697176282]
実世界の象徴的手法の適用性と適応性を広げるためのメタ推論を提案する。
この方法はLLMに対して、推論に依存しない意味情報を汎用的な記号表現に分解する権限を与える。
我々は、算術、記号、論理的推論といった従来の推論タスクを含む10以上のデータセットと、理論の推論のようなより複雑な対話的推論タスクに関する広範な実験を行う。
論文 参考訳(メタデータ) (2023-06-30T17:38:10Z) - Language Models as Inductive Reasoners [125.99461874008703]
本稿では,帰納的推論のための新しいパラダイム(タスク)を提案し,自然言語の事実から自然言語規則を誘導する。
タスクのための1.2kルールファクトペアを含むデータセットDEERを作成し,ルールと事実を自然言語で記述する。
我々は、事前訓練された言語モデルが自然言語の事実から自然言語規則をいかに誘導できるかを、初めてかつ包括的な分析を行う。
論文 参考訳(メタデータ) (2022-12-21T11:12:14Z) - Provable Limitations of Acquiring Meaning from Ungrounded Form: What
will Future Language Models Understand? [87.20342701232869]
未知のシステムが意味を習得する能力について検討する。
アサーションによってシステムが等価性のような意味関係を保存する表現をエミュレートできるかどうか検討する。
言語内のすべての表現が参照的に透明であれば,アサーションによってセマンティックエミュレーションが可能になる。
しかし、言語が変数バインディングのような非透過的なパターンを使用する場合、エミュレーションは計算不能な問題になる可能性がある。
論文 参考訳(メタデータ) (2021-04-22T01:00:17Z) - RNNLogic: Learning Logic Rules for Reasoning on Knowledge Graphs [91.71504177786792]
本稿では知識グラフに基づく推論のための論理規則の学習について研究する。
論理規則は、予測に使用されるときに解釈可能な説明を提供するとともに、他のタスクに一般化することができる。
既存の手法は、検索スペースの検索の問題や、スパース報酬による非効率な最適化に悩まされている。
論文 参考訳(メタデータ) (2020-10-08T14:47:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。