論文の概要: Shadow of the (Hierarchical) Tree: Reconciling Symbolic and Predictive Components of the Neural Code for Syntax

• arxiv url: http://arxiv.org/abs/2412.01276v1
• Date: Mon, 02 Dec 2024 08:44:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-04 15:47:00.279021
• Title: Shadow of the (Hierarchical) Tree: Reconciling Symbolic and Predictive Components of the Neural Code for Syntax
• Title（参考訳）: 階層木(階層木)の影--構文の記号的・予測的要素を再構築して
• Authors: Elliot Murphy,
• Abstract要約: 線形で予測的な「水平」プロセスで階層的な「垂直」構文のニューラルネットワークを再構築する可能性について論じる。 語彙・意味的統計特徴をコードするニューラルレジームに記号表現を注入する方法に関するニューロシンボリックな数学的モデルを提供する。
• 参考スコア（独自算出の注目度）: 1.223779595809275
• License:
• Abstract: Natural language syntax can serve as a major test for how to integrate two infamously distinct frameworks: symbolic representations and connectionist neural networks. Building on a recent neurocomputational architecture for syntax (ROSE), I discuss the prospects of reconciling the neural code for hierarchical 'vertical' syntax with linear and predictive 'horizontal' processes via a hybrid neurosymbolic model. I argue that the former can be accounted for via the higher levels of ROSE in terms of vertical phrase structure representations, while the latter can explain horizontal forms of linguistic information via the tuning of the lower levels to statistical and perceptual inferences. One prediction of this is that artificial language models will contribute to the cognitive neuroscience of horizontal morphosyntax, but much less so to hierarchically compositional structures. I claim that this perspective helps resolve many current tensions in the literature. Options for integrating these two neural codes are discussed, with particular emphasis on how predictive coding mechanisms can serve as interfaces between symbolic oscillatory phase codes and population codes for the statistics of linearized aspects of syntax. Lastly, I provide a neurosymbolic mathematical model for how to inject symbolic representations into a neural regime encoding lexico-semantic statistical features.
• Abstract（参考訳）: 自然言語構文は、象徴的表現と接続性ニューラルネットワークという、2つの悪名高い異なるフレームワークを統合するための主要なテストとして機能する。 最近の構文計算アーキテクチャ(ROSE)に基づいて、線形で予測的な「水平」過程をハイブリッドなニューロシンボリックモデルにより、階層的な「垂直」構文のニューラルコードを再構築する可能性について論じる。 前者は縦句構造表現の観点でROSEの上位レベルを通して説明できるが,後者は下位レベルから統計的および知覚的推論へのチューニングを通して言語情報の水平形を説明することができる,と私は論じる。 このことの予測の一つは、人工言語モデルは水平形態素構文の認知神経科学に寄与するが、階層的な構成構造にはほとんど寄与しないということである。 私はこの観点が文学における多くの現在の緊張を解決するのに役立ちます。 これら2つのニューラルコードを統合するための選択肢について論じ、特に、シンボリックな振動位相符号と、構文の線形化された側面の統計に対する集団符号とのインターフェイスとして、予測的符号化機構がどのように機能するかを強調した。 最後に,レキシコ・セマンティックな統計特徴をコードするニューラルレジームに記号表現を注入する方法に関する,ニューロシンボリックな数学的モデルを提案する。

関連論文リスト

• Exploring knowledge graph-based neural-symbolic system from application perspective [0.0]
  AIシステムにおけるヒューマンライクな推論と解釈可能性の実現は、依然として大きな課題である。 ニューラルネットワークをシンボリックシステムと統合するNeural-Symbolicパラダイムは、より解釈可能なAIへの有望な経路を提供する。 本稿では,知識グラフに基づくニューラルシンボリック統合の最近の進歩について考察する。
  論文  参考訳（メタデータ） (2024-05-06T14:40:50Z)
• LOGICSEG: Parsing Visual Semantics with Neural Logic Learning and Reasoning [73.98142349171552]
  LOGICSEGは、神経誘導学習と論理推論をリッチデータとシンボリック知識の両方に統合する、全体論的視覚意味論である。 ファジィ論理に基づく連続的な緩和の間、論理式はデータとニューラルな計算グラフに基礎を置いており、論理によるネットワークトレーニングを可能にする。 これらの設計によりLOGICSEGは、既存のセグメンテーションモデルに容易に統合できる汎用的でコンパクトなニューラル論理マシンとなる。
  論文  参考訳（メタデータ） (2023-09-24T05:43:19Z)
• A Recursive Bateson-Inspired Model for the Generation of Semantic Formal Concepts from Spatial Sensory Data [77.34726150561087]
  本稿では,複雑な感覚データから階層構造を生成するための記号のみの手法を提案する。 このアプローチは、概念や概念の創始の鍵としてのバテソンの差異の概念に基づいている。 このモデルは、トレーニングなしでかなりリッチだが人間に読まれる概念表現を生成することができる。
  論文  参考訳（メタデータ） (2023-07-16T15:59:13Z)
• ROSE: A Neurocomputational Architecture for Syntax [0.0]
  本稿では,ROSEモデルと呼ばれる構文のニューロ計算アーキテクチャを提案する。 ROSEでは、構文の基本データ構造は原子的特徴、心的表現のタイプ(R)であり、単一ユニットとアンサンブルレベルでコード化されている。 低周波カップリングと位相振幅カップリング(pSTS-IFGによるデルタ-テータカップリング、IFGによるテータ-ガンマカップリングから概念ハブへのテータ-ガンマカップリング)の識別形式は、これらの構造を異なるワークスペースにエンコードする(E)。
  論文  参考訳（メタデータ） (2023-03-15T18:44:37Z)
• Extensions to Generalized Annotated Logic and an Equivalent Neural Architecture [4.855957436171202]
  本稿では,ニューロシンボリックシステムに対する望ましい基準のリストを提案し,既存のアプローチのいくつかがこれらの基準にどう対処するかを検討する。 次に、等価なニューラルアーキテクチャの作成を可能にするアノテーション付き一般化論理の拡張を提案する。 トレーニングプロセスの継続的な最適化に依存する従来のアプローチとは異なり、当社のフレームワークは、離散最適化を使用する二項化ニューラルネットワークとして設計されている。
  論文  参考訳（メタデータ） (2023-02-23T17:39:46Z)
• A Semantic Framework for Neuro-Symbolic Computing [0.36832029288386137]
  ニューロシンボリックAIの分野は、ニューラルネットワークとシンボリックシステムの組み合わせの恩恵を受けることを目的としている。 エンコーディングの一般的な定義は存在せず、ニューロシンボリック法を正確に理論的に比較することが可能である。 本稿では,ニューロシンボリックAIのセマンティックフレームワークを導入することでこの問題に対処する。
  論文  参考訳（メタデータ） (2022-12-22T22:00:58Z)
• Neural-Symbolic Recursive Machine for Systematic Generalization [113.22455566135757]
  我々は、基底記号システム(GSS)のコアとなるニューラル・シンボリック再帰機械(NSR)を紹介する。 NSRは神経知覚、構文解析、意味推論を統合している。 我々はNSRの有効性を,系統的一般化能力の探索を目的とした4つの挑戦的ベンチマークで評価した。
  論文  参考訳（メタデータ） (2022-10-04T13:27:38Z)
• Dynamic Inference with Neural Interpreters [72.90231306252007]
  本稿では,モジュールシステムとしての自己アテンションネットワークにおける推論を分解するアーキテクチャであるNeural Interpretersを提案する。 モデルへの入力は、エンドツーエンドの学習方法で一連の関数を通してルーティングされる。 ニューラル・インタープリタは、より少ないパラメータを用いて視覚変換器と同等に動作し、サンプル効率で新しいタスクに転送可能であることを示す。
  論文  参考訳（メタデータ） (2021-10-12T23:22:45Z)
• pix2rule: End-to-end Neuro-symbolic Rule Learning [84.76439511271711]
  本稿では,画像のオブジェクトへの処理,学習関係,論理規則に関する完全なニューロシンボリックな手法を提案する。 主な貢献は、シンボリックリレーションとルールを抽出できるディープラーニングアーキテクチャにおける差別化可能なレイヤである。 我々のモデルは最先端のシンボリックラーナーを超えてスケールし、ディープリレーショナルニューラルネットワークアーキテクチャよりも優れていることを実証する。
  論文  参考訳（メタデータ） (2021-06-14T15:19:06Z)
• Compositional Explanations of Neurons [52.71742655312625]
  本稿では, 合成論理的概念を同定し, 深部表現におけるニューロンの説明手順について述べる。 本稿では,視覚と自然言語処理のモデルにおける解釈可能性に関するいくつかの疑問に答えるために,この手順を用いる。
  論文  参考訳（メタデータ） (2020-06-24T20:37:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。