論文の概要: Is Neuro-Symbolic AI Meeting its Promise in Natural Language Processing?
A Structured Review
- arxiv url: http://arxiv.org/abs/2202.12205v1
- Date: Thu, 24 Feb 2022 17:13:33 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-25 16:28:30.532432
- Title: Is Neuro-Symbolic AI Meeting its Promise in Natural Language Processing?
A Structured Review
- Title(参考訳): ニューロシンボリックAIは自然言語処理における約束を達成しているか?
構造的レビュー
- Authors: Kyle Hamilton, Aparna Nayak, Bojan Bo\v{z}i\'c, Luca Longo
- Abstract要約: Neuro-Symbolic AI(NeSy)の支持者は、ディープラーニングとシンボリック推論を組み合わせることで、AIがより強くなると主張している。
我々はNLPのためのNeSyを実装した研究の構造化されたレビューを行い、課題と今後の方向性について述べる。
我々は、NeSyがその約束を本当に満たしているかどうか、すなわち、推論、アウト・オブ・ディストリビューションの一般化、解釈可能性、小さなデータからの学習と推論、新しいドメインへの転送可能性という疑問に答えることを目指している。
- 参考スコア(独自算出の注目度): 2.064612766965483
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Advocates for Neuro-Symbolic AI (NeSy) assert that combining deep learning
with symbolic reasoning will lead to stronger AI than either paradigm on its
own. As successful as deep learning has been, it is generally accepted that
even our best deep learning systems are not very good at abstract reasoning.
And since reasoning is inextricably linked to language, it makes intuitive
sense that Natural Language Processing (NLP), would be a particularly
well-suited candidate for NeSy. We conduct a structured review of studies
implementing NeSy for NLP, challenges and future directions, and aim to answer
the question of whether NeSy is indeed meeting its promises: reasoning,
out-of-distribution generalization, interpretability, learning and reasoning
from small data, and transferability to new domains. We examine the impact of
knowledge representation, such as rules and semantic networks, language
structure and relational structure, and whether implicit or explicit reasoning
contributes to higher promise scores. We find that knowledge encoded in
relational structures and explicit reasoning tend to lead to more NeSy goals
being satisfied. We also advocate for a more methodical approach to the
application of theories of reasoning, which we hope can reduce some of the
friction between the symbolic and sub-symbolic schools of AI.
- Abstract(参考訳): Neuro-Symbolic AI (NeSy)の支持者は、ディープラーニングと象徴的推論を組み合わせることで、どちらのパラダイムよりも強いAIにつながると主張している。
ディープラーニングが成功しているように、私たちの最善のディープラーニングシステムでさえ、抽象的推論が得意ではないと一般的に認められています。
推論は言語と密接に関連しているため、自然言語処理(NLP)がNeSyにとって特に適した候補となることは直感的に理解できる。
我々はNLPのためのNeSyを実装した研究の構造化されたレビューを行い、NeSyが実際にその約束を達成しているかどうか、すなわち、推論、アウト・オブ・ディストリビューションの一般化、解釈可能性、小さなデータからの学習と推論、新しいドメインへの転送可能性、という質問に答える。
本稿では,ルールや意味ネットワーク,言語構造や関係構造といった知識表現の影響と,暗黙的あるいは明示的な推論が高い期待値に寄与するかどうかについて検討する。
関係構造と明示的な推論に符号化された知識は、より多くのNeSy目標を満たす傾向にある。
我々はまた、推論の理論の応用に対するより体系的なアプローチを提唱し、AIの象徴派と準象徴派の間の摩擦の一部を減らしたいと考えています。
関連論文リスト
- ULLER: A Unified Language for Learning and Reasoning [7.689000976615671]
我々はニューロシンボリック人工知能(NeSy)のための統一言語を提案する。
ULLER(Unified Language for LEarning and Reasoning)と呼ぶ。
論文 参考訳(メタデータ) (2024-05-01T14:05:52Z) - Weakly Supervised Reasoning by Neuro-Symbolic Approaches [28.98845133698169]
NLPに対するニューロシンボリックアプローチの進歩を紹介する。
NLPタスクのためのシンボル潜在構造を持つニューラルネットワークを設計する。
下流作業において弱教師付き推論を行うために強化学習や緩和を適用する。
論文 参考訳(メタデータ) (2023-09-19T06:10:51Z) - Large Language Models are In-Context Semantic Reasoners rather than
Symbolic Reasoners [75.85554779782048]
大規模言語モデル(LLM)は、近年、自然言語と機械学習コミュニティを興奮させています。
多くの成功を収めたアプリケーションにもかかわらず、そのようなコンテキスト内機能の基盤となるメカニズムはまだ不明である。
本研究では,学習した言語トークンのテクストセマンティクスが推論過程において最も重い処理を行うと仮定する。
論文 参考訳(メタデータ) (2023-05-24T07:33:34Z) - Understanding Natural Language Understanding Systems. A Critical
Analysis [91.81211519327161]
自然言語理解システム(Natural Language Understanding (NLU) system)としても知られる usguillemotright(英語版) のようなギユモトレフトークを持つ機械の開発は、人工知能の聖杯(英語版) (AI) である。
しかし、Gillemottalking machineguillemotrightを構築することができるという信頼は、次世代のNLUシステムによってもたらされたものよりも強かった。
私たちは新しい時代の夜明けに、ついに砂利が我々に近づいたのか?
論文 参考訳(メタデータ) (2023-03-01T08:32:55Z) - NELLIE: A Neuro-Symbolic Inference Engine for Grounded, Compositional, and Explainable Reasoning [59.16962123636579]
本稿では,Prologベースの推論エンジンを新たに提案する。
我々は手作りのルールを、ニューラルネットワークモデリング、ガイド付き生成、半密検索の組み合わせで置き換える。
我々の実装であるNELLIEは、完全に解釈可能なエンドツーエンドの基底QAを示す最初のシステムである。
論文 参考訳(メタデータ) (2022-09-16T00:54:44Z) - Neuro-Symbolic Learning of Answer Set Programs from Raw Data [54.56905063752427]
Neuro-Symbolic AIは、シンボリックテクニックの解釈可能性と、生データから学ぶ深層学習の能力を組み合わせることを目的としている。
本稿では,ニューラルネットワークを用いて生データから潜在概念を抽出するNSIL(Neuro-Symbolic Inductive Learner)を提案する。
NSILは表現力のある知識を学習し、計算的に複雑な問題を解き、精度とデータ効率の観点から最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2022-05-25T12:41:59Z) - A Neural-Symbolic Approach to Natural Language Understanding [12.752124450670602]
我々はニューラルシンボリックプロセッサ(NSP)と呼ばれるNLUの新しいフレームワークを提案する。
NSPは、ニューラル処理に基づいてアナログ推論を行い、ニューラル処理とシンボリック処理の両方に基づいて論理推論を行う。
ケーススタディとして、質問応答(QA)と自然言語推論(NLI)という2つのNLUタスクの実験を行った。
論文 参考訳(メタデータ) (2022-03-20T14:12:44Z) - Emergence of Machine Language: Towards Symbolic Intelligence with Neural
Networks [73.94290462239061]
本稿では、ニューラルネットワークを用いてシンボルとコネクショナリズムの原理を組み合わせることで、離散表現を導出することを提案する。
対話型環境とタスクを設計することにより、機械が自発的で柔軟でセマンティックな言語を生成できることを実証した。
論文 参考訳(メタデータ) (2022-01-14T14:54:58Z) - Target Languages (vs. Inductive Biases) for Learning to Act and Plan [13.820550902006078]
私は、ニューラルアーキテクチャのバイアスから表現が現れるのではなく、既知のセマンティクスを持つ特定のターゲット言語で学習される、異なる学習アプローチを明確に表現します。
論文と講演の目的は、これらのアイデアを明確化し、対象言語の設計が不可欠である広い文脈に配置し、それらを行動と計画の学習の文脈で説明することである。
論文 参考訳(メタデータ) (2021-09-15T10:24:13Z) - Logic Tensor Networks [9.004005678155023]
学習と推論をサポートする神経シンボリック形式論と計算モデルであるLogic Networks(LTN)を提示する。
LTNがいくつかのAIタスクの仕様と計算に一様言語を提供することを示す。
論文 参考訳(メタデータ) (2020-12-25T22:30:18Z) - Question Answering over Knowledge Bases by Leveraging Semantic Parsing
and Neuro-Symbolic Reasoning [73.00049753292316]
本稿では,意味解析と推論に基づくニューロシンボリック質問回答システムを提案する。
NSQAはQALD-9とLC-QuAD 1.0で最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2020-12-03T05:17:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。