論文の概要: NeuPSL: Neural Probabilistic Soft Logic
- arxiv url: http://arxiv.org/abs/2205.14268v3
- Date: Tue, 23 May 2023 15:47:49 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-25 01:49:30.364710
- Title: NeuPSL: Neural Probabilistic Soft Logic
- Title(参考訳): NeuPSL: 神経確率的ソフト論理
- Authors: Connor Pryor, Charles Dickens, Eriq Augustine, Alon Albalak, William
Wang, Lise Getoor
- Abstract要約: 我々は、最先端のシンボル推論と深層ニューラルネットワークの低レベル認識を結びつける新しいニューロシンボリック(NeSy)フレームワークを導入する。
我々はNeuPSLでニューラルネットワークとシンボルパラメータの学習と推論をシームレスに統合する方法を示す。
確立されたNeSyタスク、MNIST-Additionにおいて、NeuPSLは、データ設定で既存のNeSyアプローチを最大10%上回る、ジョイント推論機能を示している。
- 参考スコア(独自算出の注目度): 19.47714497494585
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper, we introduce Neural Probabilistic Soft Logic (NeuPSL), a novel
neuro-symbolic (NeSy) framework that unites state-of-the-art symbolic reasoning
with the low-level perception of deep neural networks. To model the boundary
between neural and symbolic representations, we propose a family of
energy-based models, NeSy Energy-Based Models, and show that they are general
enough to include NeuPSL and many other NeSy approaches. Using this framework,
we show how to seamlessly integrate neural and symbolic parameter learning and
inference in NeuPSL. Through an extensive empirical evaluation, we demonstrate
the benefits of using NeSy methods, achieving upwards of 30% improvement over
independent neural network models. On a well-established NeSy task,
MNIST-Addition, NeuPSL demonstrates its joint reasoning capabilities by
outperforming existing NeSy approaches by up to 10% in low-data settings.
Furthermore, NeuPSL achieves a 5% boost in performance over state-of-the-art
NeSy methods in a canonical citation network task with up to a 40 times speed
up.
- Abstract(参考訳): 本稿では,ニューラル確率的ソフト論理(NeuPSL)を紹介する。これはニューラルシンボリック(NeSy)フレームワークで,最先端のシンボル推論と深層ニューラルネットワークの低レベル知覚を結合する。
ニューラル表現とシンボリック表現の境界をモデル化するために、エネルギーベースモデルであるNeSy Energy-based Modelのファミリーを提案し、NeSyLや他の多くのNeSyアプローチを組み込むのに十分な一般性を示す。
このフレームワークを用いて,neupslでニューラルネットワークとシンボリックパラメータ学習と推論をシームレスに統合する方法を示す。
広範な経験的評価を通じて,nesy法を用いることの利点を実証し,独立ニューラルネットワークモデルに対して30%以上の改善を達成する。
確立されたNeSyタスク、MNIST-Additionにおいて、NeuPSLは、データ設定で既存のNeSyアプローチを最大10%上回る、ジョイント推論機能を示している。
さらに、NeuPSLは、標準的な引用ネットワークタスクにおいて、最先端のNeSyメソッドよりも最大40倍の速度でパフォーマンスが5%向上する。
関連論文リスト
- Contrastive Learning in Memristor-based Neuromorphic Systems [55.11642177631929]
スパイクニューラルネットワークは、現代のバックプロパゲーションによって訓練されたディープネットワークに直面する重要な制約の多くを横取りする、ニューロンベースのモデルの重要なファミリーとなっている。
本研究では,前向き・後向き学習のニューロモルフィック形式であるコントラッシブ・シグナル依存型塑性(CSDP)の概念実証を設計し,検討する。
論文 参考訳(メタデータ) (2024-09-17T04:48:45Z) - A Mathematical Framework, a Taxonomy of Modeling Paradigms, and a Suite of Learning Techniques for Neural-Symbolic Systems [22.42431063362667]
本稿では,ニューラル・シンボリックエネルギーベースモデル(NeSy-EBMs)を紹介する。
我々はNeSy-EBMを用いて,システムのニューラルシンボリックインタフェースと推論機能に着目したモデリングパラダイムの分類法を開発した。
我々はまた、スケーラビリティと表現性のために設計されたオープンソースのNeSy-EBMライブラリNeuPSL(NeuPSL)についても紹介する。
論文 参考訳(メタデータ) (2024-07-12T21:26:21Z) - Exploiting Heterogeneity in Timescales for Sparse Recurrent Spiking Neural Networks for Energy-Efficient Edge Computing [16.60622265961373]
スパイキングニューラルネットワーク(SNN)は、ニューロモルフィックコンピューティングの最前線である。
本稿では,SNNのパフォーマンスに革命をもたらす3つの画期的な研究をまとめる。
論文 参考訳(メタデータ) (2024-07-08T23:33:12Z) - Simple and Effective Transfer Learning for Neuro-Symbolic Integration [50.592338727912946]
この問題の潜在的な解決策はNeuro-Symbolic Integration (NeSy)であり、ニューラルアプローチとシンボリック推論を組み合わせる。
これらの手法のほとんどは、認識をシンボルにマッピングするニューラルネットワークと、下流タスクの出力を予測する論理的論理的推論を利用する。
それらは、緩やかな収束、複雑な知覚タスクの学習困難、局所的なミニマへの収束など、いくつかの問題に悩まされている。
本稿では,これらの問題を改善するための簡易かつ効果的な方法を提案する。
論文 参考訳(メタデータ) (2024-02-21T15:51:01Z) - A Hybrid Neural Coding Approach for Pattern Recognition with Spiking
Neural Networks [53.31941519245432]
脳にインスパイアされたスパイクニューラルネットワーク(SNN)は、パターン認識タスクを解く上で有望な能力を示している。
これらのSNNは、情報表現に一様神経コーディングを利用する同質ニューロンに基づいている。
本研究では、SNNアーキテクチャは異種符号化方式を組み込むよう、均質に設計されるべきである、と論じる。
論文 参考訳(メタデータ) (2023-05-26T02:52:12Z) - Exploiting High Performance Spiking Neural Networks with Efficient
Spiking Patterns [4.8416725611508244]
スパイキングニューラルネットワーク(SNN)は、離散スパイクシーケンスを使用して情報を伝達し、脳の情報伝達を著しく模倣する。
本稿では、動的バーストパターンを導入し、短時間の性能と動的時間的性能のトレードオフを可能にするLeaky Integrate and Fire or Burst(LIFB)ニューロンを設計する。
論文 参考訳(メタデータ) (2023-01-29T04:22:07Z) - Extrapolation and Spectral Bias of Neural Nets with Hadamard Product: a
Polynomial Net Study [55.12108376616355]
NTKの研究は典型的なニューラルネットワークアーキテクチャに特化しているが、アダマール製品(NNs-Hp)を用いたニューラルネットワークには不完全である。
本研究では,ニューラルネットワークの特別なクラスであるNNs-Hpに対する有限幅Kの定式化を導出する。
我々は,カーネル回帰予測器と関連するNTKとの等価性を証明し,NTKの適用範囲を拡大する。
論文 参考訳(メタデータ) (2022-09-16T06:36:06Z) - Knowledge Enhanced Neural Networks for relational domains [83.9217787335878]
我々は、ニューラルネットワークに事前論理的知識を注入するニューラルネットワークアーキテクチャであるKENNに焦点を当てる。
本稿では,関係データに対するKENNの拡張を提案する。
論文 参考訳(メタデータ) (2022-05-31T13:00:34Z) - Standalone Neural ODEs with Sensitivity Analysis [5.565364597145569]
本稿では,完全深部ニューラルネットワークを記述可能な連続深部ニューラルネットワークモデルを提案する。
神経感受性問題の一般的な定式化を行い,NCGトレーニングでどのように使用されるかを示す。
我々の新しい定式化がResNetモデルと比較してロバスト性や性能の向上につながることを示す。
論文 参考訳(メタデータ) (2022-05-27T12:16:53Z) - SIT: A Bionic and Non-Linear Neuron for Spiking Neural Network [12.237928453571636]
スパイキングニューラルネットワーク(SNN)は、時間的情報処理能力と消費電力の低さから、研究者の関心を喚起している。
現在の最先端の手法は、ニューロンが単純な Leaky-Integrate-and-Fire (LIF) モデルに基づいて構築されているため、生物学的な可視性と性能を制限している。
高レベルの動的複雑さのため、現代のニューロンモデルがSNNの実践で実装されることはめったにない。
論文 参考訳(メタデータ) (2022-03-30T07:50:44Z) - Non-linear Neurons with Human-like Apical Dendrite Activations [81.18416067005538]
XOR論理関数を100%精度で学習し, 標準的なニューロンに後続のアピーカルデンドライト活性化(ADA)が認められた。
コンピュータビジョン,信号処理,自然言語処理の6つのベンチマークデータセットについて実験を行った。
論文 参考訳(メタデータ) (2020-02-02T21:09:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。