論文の概要: Parallel Neurosymbolic Integration with Concordia
- arxiv url: http://arxiv.org/abs/2306.00480v2
- Date: Wed, 14 Jun 2023 14:25:38 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-17 00:20:58.468735
- Title: Parallel Neurosymbolic Integration with Concordia
- Title(参考訳): Concordiaによる並列神経シンボル統合
- Authors: Jonathan Feldstein, Modestas Jur\v{c}ius, Efthymia Tsamoura
- Abstract要約: 先行技術の限界を克服するフレームワークであるConcordiaを提示する。
我々のフレームワークは、両方のコンポーネントの教師なしトレーニングと神経コンポーネントの教師なしトレーニングをサポートすることができる。
- 参考スコア(独自算出の注目度): 5.317624228510748
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Parallel neurosymbolic architectures have been applied effectively in NLP by
distilling knowledge from a logic theory into a deep model.However, prior art
faces several limitations including supporting restricted forms of logic
theories and relying on the assumption of independence between the logic and
the deep network. We present Concordia, a framework overcoming the limitations
of prior art. Concordia is agnostic both to the deep network and the logic
theory offering support for a wide range of probabilistic theories. Our
framework can support supervised training of both components and unsupervised
training of the neural component. Concordia has been successfully applied to
tasks beyond NLP and data classification, improving the accuracy of
state-of-the-art on collective activity detection, entity linking and
recommendation tasks.
- Abstract(参考訳): 並列型ニューロシンボリックアーキテクチャは論理理論からの知識を深層モデルに蒸留することでNLPに効果的に適用されているが、従来の技術は制限された論理理論をサポートし、論理と深層ネットワークの独立性の仮定に依存するなど、いくつかの制限に直面している。
先行技術の限界を克服するフレームワークであるConcordiaを提示する。
コンコルディアはディープネットワークと論理理論の両方に非依存であり、幅広い確率論的理論を支持する。
我々のフレームワークは、両方のコンポーネントの教師なしトレーニングと神経コンポーネントの教師なしトレーニングをサポートすることができる。
コンコーディアはNLPやデータ分類以外のタスクに適用され、集団活動の検出、エンティティリンク、レコメンデーションタスクにおける最先端の精度を向上させる。
関連論文リスト
- Neuro-symbolic Learning Yielding Logical Constraints [22.649543443988712]
ニューロシンボリックシステムのエンドツーエンドの学習は、まだ未解決の課題である。
本稿では,ネットワーク,シンボル接地,論理的制約合成を両立させるフレームワークを提案する。
論文 参考訳(メタデータ) (2024-10-28T12:18:25Z) - Learning with Logical Constraints but without Shortcut Satisfaction [23.219364371311084]
論理的制約による学習のための新しいフレームワークを提案する。
具体的には、論理接続のための双対変数を導入することで、ショートカット満足度問題に対処する。
本稿では,符号化された論理制約を分布損失として表現する変分フレームワークを提案する。
論文 参考訳(メタデータ) (2024-03-01T07:17:20Z) - Logic-induced Diagnostic Reasoning for Semi-supervised Semantic
Segmentation [85.12429517510311]
LogicDiagは、セマンティックセグメンテーションのためのニューラルネットワークによる半教師付き学習フレームワークである。
私たちの重要な洞察は、記号的知識によって識別される擬似ラベル内の衝突は、強いが一般的に無視される学習信号として機能する、ということです。
本稿では,論理規則の集合として意味論的概念の構造的抽象化を定式化するデータ・ハングリーセグメンテーションシナリオにおけるLogicDiagの実践的応用について紹介する。
論文 参考訳(メタデータ) (2023-08-24T06:50:07Z) - Demystifying the Neural Tangent Kernel from a Practical Perspective: Can
it be trusted for Neural Architecture Search without training? [37.29036906991086]
本研究では,ニューラルタンジェントカーネル(NTK)から導出できるいくつかの初期化指標を再検討する。
現代のニューラルアーキテクチャは、高い非線形特性を示しており、NTKベースのメトリクスは、ある程度のトレーニングを伴わずに、アーキテクチャのパフォーマンスを確実に見積もることができる。
これはNTKに基づく新しい計量であり、その固有な定式化により、現代のニューラルアーキテクチャに存在する多くの非線形優位性を捉えることができる。
論文 参考訳(メタデータ) (2022-03-28T08:43:04Z) - Faster-LTN: a neuro-symbolic, end-to-end object detection architecture [6.262658726461965]
本稿では,畳み込みバックボーンとLTNからなる物体検出器であるFaster-LTNを提案する。
このアーキテクチャは、ラベル付き例と事前知識を組み合わせた基礎理論を最適化することで訓練される。
実験的な比較では、従来のFaster R-CNNアーキテクチャと競合する性能を示している。
論文 参考訳(メタデータ) (2021-07-05T09:09:20Z) - Learning Representations for Sub-Symbolic Reasoning [15.064026484896301]
本稿では,学習者の潜在深部空間において本質的推論を行う新しいエンド・ツー・エンドモデルを提案する。
ニューロシンボリックな方法は、神経アーキテクチャ、知識表現、推論を統合する。
提案モデルは,拡張性や表現性に制限された従来のニューロシンボリックな手法のギャップを埋めるものである。
論文 参考訳(メタデータ) (2021-06-01T11:02:22Z) - Reinforcement Learning with External Knowledge by using Logical Neural
Networks [67.46162586940905]
論理ニューラルネットワーク(LNN)と呼ばれる最近のニューラルシンボリックフレームワークは、ニューラルネットワークとシンボリックロジックの両方のキープロパティを同時に提供することができる。
外部知識ソースからのモデルフリー強化学習を可能にする統合手法を提案する。
論文 参考訳(メタデータ) (2021-03-03T12:34:59Z) - Developing Constrained Neural Units Over Time [81.19349325749037]
本稿では,既存のアプローチと異なるニューラルネットワークの定義方法に焦点をあてる。
ニューラルネットワークの構造は、データとの相互作用にも拡張される制約の特別なクラスによって定義される。
提案した理論は時間領域にキャストされ, データを順序づけられた方法でネットワークに提示する。
論文 参考訳(メタデータ) (2020-09-01T09:07:25Z) - A Chain Graph Interpretation of Real-World Neural Networks [58.78692706974121]
本稿では,NNを連鎖グラフ(CG)、フィードフォワードを近似推論手法として識別する別の解釈を提案する。
CG解釈は、確率的グラフィカルモデルのリッチな理論的枠組みの中で、各NNコンポーネントの性質を規定する。
我々は,CG解釈が様々なNN技術に対する新しい理論的支援と洞察を提供することを示す具体例を実例で示す。
論文 参考訳(メタデータ) (2020-06-30T14:46:08Z) - Understanding Deep Architectures with Reasoning Layer [60.90906477693774]
本研究では,アルゴリズムの収束,安定性,感度といった特性が,エンドツーエンドモデルの近似と一般化能力と密接に関連していることを示す。
私たちの理論は、深いアーキテクチャを推論層で設計するための有用なガイドラインを提供することができます。
論文 参考訳(メタデータ) (2020-06-24T00:26:35Z) - Local Propagation in Constraint-based Neural Network [77.37829055999238]
ニューラルネットワークアーキテクチャの制約に基づく表現について検討する。
本稿では,いわゆるアーキテクチャ制約を満たすのに適した簡単な最適化手法について検討する。
論文 参考訳(メタデータ) (2020-02-18T16:47:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。