論文の概要: Improving Neural-based Classification with Logical Background Knowledge
- arxiv url: http://arxiv.org/abs/2402.13019v1
- Date: Tue, 20 Feb 2024 14:01:26 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-21 15:08:54.208694
- Title: Improving Neural-based Classification with Logical Background Knowledge
- Title(参考訳): 論理的背景知識を用いたニューラルベース分類の改善
- Authors: Arthur Ledaguenel, C\'eline Hudelot, Mostepha Khouadjia
- Abstract要約: 本稿では,提案する背景知識を用いた教師付きマルチラベル分類のための新しい定式化を提案する。
推論時に意味条件付けと呼ばれる新しいニューロシンボリック手法を導入する。
本稿では、他の2つの一般的なニューロシンボリック技術に対する理論的および実践的優位性について論じる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Neurosymbolic AI is a growing field of research aiming to combine neural
networks learning capabilities with the reasoning abilities of symbolic
systems. This hybridization can take many shapes. In this paper, we propose a
new formalism for supervised multi-label classification with propositional
background knowledge. We introduce a new neurosymbolic technique called
semantic conditioning at inference, which only constrains the system during
inference while leaving the training unaffected. We discuss its theoritical and
practical advantages over two other popular neurosymbolic techniques: semantic
conditioning and semantic regularization. We develop a new multi-scale
methodology to evaluate how the benefits of a neurosymbolic technique evolve
with the scale of the network. We then evaluate experimentally and compare the
benefits of all three techniques across model scales on several datasets. Our
results demonstrate that semantic conditioning at inference can be used to
build more accurate neural-based systems with fewer resources while
guaranteeing the semantic consistency of outputs.
- Abstract(参考訳): ニューロシンボリックai(neuralsymbolic ai)は、ニューラルネットワークの学習能力とシンボリックシステムの推論能力を組み合わせた研究分野である。
このハイブリダイゼーションは多くの形をとることができる。
本稿では,命題的背景知識を用いた教師付きマルチラベル分類のための新しい形式を提案する。
我々は,推論における意味的条件付けと呼ばれる新しいニューロシンボリック手法を導入し,トレーニングに影響を与えないまま,推論中にのみシステムを拘束する。
神経シンボリックな手法であるセマンティクス・コンディショニングとセマンティクス・レギュライゼーションに比較して,その理論と実践上の利点について論じる。
ニューロシンボリック手法の利点をネットワーク規模でどのように発展させるかを評価するための新しいマルチスケール手法を開発した。
そして、実験的に評価し、複数のデータセットのモデルスケールにまたがる3つのテクニックの利点を比較します。
提案手法は,入力時のセマンティックコンディショニングを用いて,少ないリソースでより正確なニューラルベースシステムを構築することができ,出力のセマンティック一貫性を保証できることを示す。
関連論文リスト
- Complexity of Probabilistic Reasoning for Neurosymbolic Classification Techniques [6.775534755081169]
本稿では,情報監督型分類と手法の形式化について紹介する。
次に、確率論的推論に基づく3つの抽象的神経象徴的手法を定義するために、このフォーマリズムの上に構築する。
論文 参考訳(メタデータ) (2024-04-12T11:31:37Z) - Graph Neural Networks for Learning Equivariant Representations of Neural Networks [55.04145324152541]
本稿では,ニューラルネットワークをパラメータの計算グラフとして表現することを提案する。
我々のアプローチは、ニューラルネットワークグラフを多種多様なアーキテクチャでエンコードする単一モデルを可能にする。
本稿では,暗黙的ニューラル表現の分類や編集など,幅広いタスクにおける本手法の有効性を示す。
論文 参考訳(メタデータ) (2024-03-18T18:01:01Z) - Manipulating Feature Visualizations with Gradient Slingshots [54.31109240020007]
本稿では,モデルの決定過程に大きな影響を及ぼすことなく,特徴可視化(FV)を操作する新しい手法を提案する。
ニューラルネットワークモデルにおける本手法の有効性を評価し,任意の選択したニューロンの機能を隠蔽する能力を示す。
論文 参考訳(メタデータ) (2024-01-11T18:57:17Z) - NeuralFastLAS: Fast Logic-Based Learning from Raw Data [54.938128496934695]
シンボリック・ルール学習者は解釈可能な解を生成するが、入力を記号的に符号化する必要がある。
ニューロシンボリックアプローチは、ニューラルネットワークを使用して生データを潜在シンボリック概念にマッピングすることで、この問題を克服する。
我々は,ニューラルネットワークを記号学習者と共同でトレーニングする,スケーラブルで高速なエンドツーエンドアプローチであるNeuralFastLASを紹介する。
論文 参考訳(メタデータ) (2023-10-08T12:33:42Z) - An Interpretable Neuron Embedding for Static Knowledge Distillation [7.644253344815002]
本稿では,ニューロンを意味空間に埋め込み,解釈可能な新しいニューラルネットワーク手法を提案する。
提案したセマンティックベクトルは、潜伏した知識を静的な知識に外部化する。
可視化の実証実験により、セマンティックベクターはニューロンの活性化セマンティクスをうまく表現していることが示された。
論文 参考訳(メタデータ) (2022-11-14T03:26:10Z) - Knowledge Enhanced Neural Networks for relational domains [83.9217787335878]
我々は、ニューラルネットワークに事前論理的知識を注入するニューラルネットワークアーキテクチャであるKENNに焦点を当てる。
本稿では,関係データに対するKENNの拡張を提案する。
論文 参考訳(メタデータ) (2022-05-31T13:00:34Z) - Neuronal Learning Analysis using Cycle-Consistent Adversarial Networks [4.874780144224057]
我々は、-CycleGANと呼ばれる深層生成モデルを用いて、前学習と後学習の神経活動の間の未知のマッピングを学習する。
我々は,カルシウム蛍光信号を前処理し,訓練し,評価するためのエンドツーエンドパイプラインを開発し,その結果の深層学習モデルを解釈する手法を開発した。
論文 参考訳(メタデータ) (2021-11-25T13:24:19Z) - Dynamic Neural Diversification: Path to Computationally Sustainable
Neural Networks [68.8204255655161]
訓練可能なパラメータが制限された小さなニューラルネットワークは、多くの単純なタスクに対してリソース効率の高い候補となる。
学習過程において隠れた層内のニューロンの多様性を探索する。
ニューロンの多様性がモデルの予測にどのように影響するかを分析する。
論文 参考訳(メタデータ) (2021-09-20T15:12:16Z) - Neural Networks Enhancement with Logical Knowledge [83.9217787335878]
関係データに対するKENNの拡張を提案する。
その結果、KENNは、存在関係データにおいても、基礎となるニューラルネットワークの性能を高めることができることがわかった。
論文 参考訳(メタデータ) (2020-09-13T21:12:20Z) - Can you tell? SSNet -- a Sagittal Stratum-inspired Neural Network
Framework for Sentiment Analysis [1.0312968200748118]
感情分析のための頑健で高精度な分類器を構築するために,同じテキスト上で異なるモデルの予測を組み合わせるニューラルネットワークアーキテクチャを提案する。
そこで本研究では,専用ニューラルネットワークをベースとした複数の予測と,その数学的解析と,最先端の実験結果を組み合わせるための体系的な新しいアプローチを提案する。
論文 参考訳(メタデータ) (2020-06-23T12:55:02Z) - Equilibrium Propagation for Complete Directed Neural Networks [0.0]
最も成功したニューラルネットワークの学習アルゴリズム、バックプロパゲーションは生物学的に不可能であると考えられている。
我々は,平衡伝播学習の枠組みを構築し拡張することによって,生物学的に妥当な神経学習の話題に貢献する。
論文 参考訳(メタデータ) (2020-06-15T22:12:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。