論文の概要: Knowledge-based Analogical Reasoning in Neuro-symbolic Latent Spaces
- arxiv url: http://arxiv.org/abs/2209.08750v1
- Date: Mon, 19 Sep 2022 04:03:20 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-20 16:23:18.833161
- Title: Knowledge-based Analogical Reasoning in Neuro-symbolic Latent Spaces
- Title（参考訳）: ニューロシンボリック潜在空間における知識に基づく類推
- Authors: Vishwa Shah, Aditya Sharma, Gautam Shroff, Lovekesh Vig, Tirtharaj
Dash, Ashwin Srinivasan
- Abstract要約: ニューラルネットワークのパターン認識能力とシンボリック推論と背景知識を組み合わせたフレームワークを提案する。
ニューラルアルゴリズム推論」アプローチ [DeepMind 2020] からインスピレーションを得て、問題固有のバックグラウンド知識を使用します。
我々は、RAVENのプログレッシブ・マトリクスにおける視覚的類似性の問題でこれを検証し、人間のパフォーマンスと競合する精度を実現する。
- 参考スコア（独自算出の注目度）: 20.260546238369205
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Analogical Reasoning problems challenge both connectionist and symbolic AI
systems as these entail a combination of background knowledge, reasoning and
pattern recognition. While symbolic systems ingest explicit domain knowledge
and perform deductive reasoning, they are sensitive to noise and require inputs
be mapped to preset symbolic features. Connectionist systems on the other hand
can directly ingest rich input spaces such as images, text or speech and
recognize pattern even with noisy inputs. However, connectionist models
struggle to include explicit domain knowledge for deductive reasoning. In this
paper, we propose a framework that combines the pattern recognition abilities
of neural networks with symbolic reasoning and background knowledge for solving
a class of Analogical Reasoning problems where the set of attributes and
possible relations across them are known apriori. We take inspiration from the
'neural algorithmic reasoning' approach [DeepMind 2020] and use
problem-specific background knowledge by (i) learning a distributed
representation based on a symbolic model of the problem (ii) training
neural-network transformations reflective of the relations involved in the
problem and finally (iii) training a neural network encoder from images to the
distributed representation in (i). These three elements enable us to perform
search-based reasoning using neural networks as elementary functions
manipulating distributed representations. We test this on visual analogy
problems in RAVENs Progressive Matrices, and achieve accuracy competitive with
human performance and, in certain cases, superior to initial end-to-end
neural-network based approaches. While recent neural models trained at scale
yield SOTA, our novel neuro-symbolic reasoning approach is a promising
direction for this problem, and is arguably more general, especially for
problems where domain knowledge is available.
- Abstract（参考訳）: アナロジカル推論問題は、背景知識、推論、パターン認識の組み合わせを含むコネクショナリズムとシンボリックAIシステムの両方に挑戦する。
シンボリックシステムは明示的なドメイン知識を取り込み、帰納的推論を行うが、ノイズに敏感であり、プリセットされたシンボリック特徴に入力をマッピングする必要がある。
一方、コネクショニストシステムは、画像、テキスト、音声などのリッチな入力空間を直接取り込み、ノイズの多い入力であってもパターンを認識することができる。
しかし、コネクショニストモデルでは帰納的推論のために明確なドメイン知識を含めることに苦労する。
本稿では,ニューラルネットワークのパターン認識能力とシンボリック推論と背景知識を組み合わせて,属性の集合とそれら間の関係が知られているアナロジカル推論問題のクラスを解く枠組みを提案する。
私たちは「神経アルゴリズム推論」アプローチ [DeepMind 2020] からインスピレーションを得て、問題固有の背景知識を使用する。
(i)問題の記号モデルに基づく分散表現の学習
二 問題にかかわる関係を反映したニューラルネットワーク変換の訓練及び最終的に
(iii)画像から分散表現へのニューラルネットワークエンコーダの訓練
(i)。
これら3つの要素は,分散表現を操作する基本関数としてニューラルネットワークを用いた検索に基づく推論を可能にする。
我々は、RAVENのプログレッシブ・マトリクスにおける視覚的類似性の問題について検証し、人間のパフォーマンスと競合する精度を実現し、場合によっては、最初のエンドツーエンドのニューラルネットワークベースのアプローチよりも優れている。
近年のニューラルモデルはSOTAを生成するが、新しいニューラルシンボリック推論アプローチはこの問題に対して有望な方向であり、特にドメイン知識が利用可能な問題に対してより一般的なものである。
関連論文リスト
- Exploring knowledge graph-based neural-symbolic system from application perspective [0.0]
AIシステムにおけるヒューマンライクな推論と解釈可能性の実現は、依然として大きな課題である。
ニューラルネットワークをシンボリックシステムと統合するNeural-Symbolicパラダイムは、より解釈可能なAIへの有望な経路を提供する。
本稿では,知識グラフに基づくニューラルシンボリック統合の最近の進歩について考察する。
論文 参考訳（メタデータ） (2024-05-06T14:40:50Z) - Aligning Knowledge Graphs Provided by Humans and Generated from Neural Networks in Specific Tasks [5.791414814676125]
本稿では,ニューラルネットワークによる知識グラフの生成と活用を可能にする革新的な手法を提案する。
われわれのアプローチは、従来の単語の埋め込みモデルへの依存を排除し、ニューラルネットワークから概念をマイニングし、それらを人間の知識と直接整合させる。
実験により,本手法は人間の知識と密接に一致したネットワーク生成概念を連続的に捕捉し,これまでヒトが認識していなかった新しい有用な概念を発見できることがわかった。
論文 参考訳（メタデータ） (2024-04-23T20:33:17Z) - Simple and Effective Transfer Learning for Neuro-Symbolic Integration [50.592338727912946]
この問題の潜在的な解決策はNeuro-Symbolic Integration (NeSy)であり、ニューラルアプローチとシンボリック推論を組み合わせる。
これらの手法のほとんどは、認識をシンボルにマッピングするニューラルネットワークと、下流タスクの出力を予測する論理的論理的推論を利用する。
それらは、緩やかな収束、複雑な知覚タスクの学習困難、局所的なミニマへの収束など、いくつかの問題に悩まされている。
本稿では,これらの問題を改善するための簡易かつ効果的な方法を提案する。
論文 参考訳（メタデータ） (2024-02-21T15:51:01Z) - Reasoning Algorithmically in Graph Neural Networks [1.8130068086063336]
ニューラルネットワークの適応学習能力にアルゴリズムの構造的および規則に基づく推論を統合することを目的としている。
この論文は、この領域の研究に理論的および実践的な貢献を提供する。
論文 参考訳（メタデータ） (2024-02-21T12:16:51Z) - NeuralFastLAS: Fast Logic-Based Learning from Raw Data [54.938128496934695]
シンボリック・ルール学習者は解釈可能な解を生成するが、入力を記号的に符号化する必要がある。
ニューロシンボリックアプローチは、ニューラルネットワークを使用して生データを潜在シンボリック概念にマッピングすることで、この問題を克服する。
我々は,ニューラルネットワークを記号学習者と共同でトレーニングする,スケーラブルで高速なエンドツーエンドアプローチであるNeuralFastLASを紹介する。
論文 参考訳（メタデータ） (2023-10-08T12:33:42Z) - Extensions to Generalized Annotated Logic and an Equivalent Neural
Architecture [4.855957436171202]
本稿では,ニューロシンボリックシステムに対する望ましい基準のリストを提案し,既存のアプローチのいくつかがこれらの基準にどう対処するかを検討する。
次に、等価なニューラルアーキテクチャの作成を可能にするアノテーション付き一般化論理の拡張を提案する。
トレーニングプロセスの継続的な最適化に依存する従来のアプローチとは異なり、当社のフレームワークは、離散最適化を使用する二項化ニューラルネットワークとして設計されている。
論文 参考訳（メタデータ） (2023-02-23T17:39:46Z) - Neuro-Symbolic Learning of Answer Set Programs from Raw Data [54.56905063752427]
Neuro-Symbolic AIは、シンボリックテクニックの解釈可能性と、生データから学ぶ深層学習の能力を組み合わせることを目的としている。
本稿では,ニューラルネットワークを用いて生データから潜在概念を抽出するNSIL(Neuro-Symbolic Inductive Learner)を提案する。
NSILは表現力のある知識を学習し、計算的に複雑な問題を解き、精度とデータ効率の観点から最先端のパフォーマンスを達成する。
論文 参考訳（メタデータ） (2022-05-25T12:41:59Z) - Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。
データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
論文 参考訳（メタデータ） (2022-02-01T17:11:13Z) - A neural anisotropic view of underspecification in deep learning [60.119023683371736]
ニューラルネットが問題の未特定化を扱う方法が,データ表現に大きく依存していることを示す。
深層学習におけるアーキテクチャ的インダクティブバイアスの理解は,これらのシステムの公平性,堅牢性,一般化に対処する上で基本的であることを強調した。
論文 参考訳（メタデータ） (2021-04-29T14:31:09Z) - Learning Connectivity of Neural Networks from a Topological Perspective [80.35103711638548]
本稿では,ネットワークを解析のための完全なグラフに表現するためのトポロジ的視点を提案する。
接続の規模を反映したエッジに学習可能なパラメータを割り当てることにより、学習プロセスを異なる方法で行うことができる。
この学習プロセスは既存のネットワークと互換性があり、より大きな検索空間と異なるタスクへの適応性を持っている。
論文 参考訳（メタデータ） (2020-08-19T04:53:31Z) - A neural network model of perception and reasoning [0.0]
生物学的に一貫した構成原理の単純なセットが神経ネットワークにこれらの能力を与えることを示す。
我々はこれらの原理を、最適化の代わりに概念構築に基づく新しい機械学習アルゴリズムで実装し、説明可能なニューロン活動で推論されるディープニューラルネットワークを設計する。
論文 参考訳（メタデータ） (2020-02-26T06:26:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。