論文の概要: Formal Properties of Language as Constraints on Neural Dynamics
- arxiv url: http://arxiv.org/abs/2609.14384v1
- Date: Sun, 13 Sep 2026 08:41:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 07:15:05.806869
- Title: Formal Properties of Language as Constraints on Neural Dynamics
- Title（参考訳）: ニューラルダイナミクスの制約としての言語の形式的特性
- Abstract要約: 現在の研究では、電極、ボクセル、または言語モデル層を飽和させる言語変数とテストで刺激が神経活動を予測する。
ここでは、言語の代数的性質が、メカニズムが保持しなければならない不変量を指定することを示す。
そこで我々は,2つの構成群が共有シナプスを介して収束し,サブ線形に結合し,マージする,新たな神経結合操作「メルド」を提案する。
- 参考スコア（独自算出の注目度）: 0.20305676256390937
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: What must a neural system be capable of to implement language? Current research annotates stimuli with linguistic variables and tests which electrodes, voxels, or language-model layers predict neural activity. Yet predictive success leaves mechanisms under-constrained. Here, we show that algebraic properties of language specify invariants that mechanisms must preserve: non-associative hierarchical grouping, commutativity, recursive closure, access to substructures, and structured workspace transitions. We term this the Neural Admissibility Program (NAP). Syntactic structure building is analyzed algebraically, with candidate mechanisms offered for each requirement: content-addressable workspace memory, graph-structured transient dynamics scheduling structure-building operations (e.g. stable heteroclinic channels), and a phase-coupled sealing operation recording grouping. Simulations show that a corrected Marcolli-Berwick entropy-optimized binding gate preserves grouping only within a narrow commitment band. As an alternative, we propose a novel neural binding operation we term 'Meld': two constituent populations converge through shared synapses, integrate sublinearly, and saturate. Meld is, to our knowledge, the closest neurally plausible composition law to syntactic Merge. It preserves every NAP invariant, uses known cortical operations, and recovers hierarchical structure at every tested depth and temperature. It predicts that effective population dimensionality separates alternative bracketings and that the composite depends on constituent disagreement. Importantly, the laws decoding bracketing most accurately are a priori inadmissible, showing that decoding accuracy alone cannot adjudicate between mechanisms. By specifying how neural dynamics can remain faithful to linguistic structure, the NAP changes the criterion by which neural implementations of cognition are evaluated.
- Abstract（参考訳）: ニューラルネットワークが言語を実装するには,何が必要か?
現在の研究では、刺激に言語変数と、どの電極、ボクセル、言語モデル層が神経活動を予測するかをテストする。
しかし、予測的な成功はメカニズムの制約を過小評価する。
ここで、言語の代数的性質は、非連想的階層的グループ化、可換性、再帰的閉包、部分構造へのアクセス、構造化されたワークスペース遷移といったメカニズムを保たなければならない不変量を示す。
これを神経適応プログラム(Neural Admissibility Program、NAP)と呼ぶ。
構文構造構築を代数的に解析し、各要件に適合する候補機構として、コンテンツ適応可能なワークスペースメモリ、グラフ構造化されたトランジェントダイナミックススケジューリング構造構築操作(例えば、安定なヘテロクリニックチャネル)、位相結合型シール操作記録グループ化を提案する。
シミュレーションにより、補正されたマルコリ・ベルウィックエントロピー最適化結合ゲートは、狭いコミットメント帯域内でのみグループ化されることが示された。
代案として,2つの構成集団が共有シナプスを介して収束し,サブ線形に結合し,飽和する,新たな神経結合操作「メルド」を提案する。
メルドは、我々の知る限り、シンタクティック・マージに最も近い神経学的に妥当な合成法則である。
すべてのNAP不変量を保存し、既知の皮質操作を使用し、テストされた深さと温度ごとに階層構造を復元する。
有効人口次元は代替ブラケットを分離し、合成は構成的不一致に依存すると予測する。
重要な点として、ブラケットの復号化の法則は事前許容不能であり、復号化の精度だけでは機構間の偏差は認められない。
ニューラルダイナミクスが言語構造に忠実に保たれるかを指定することで、NAPは認知のニューラル実装を評価する基準を変更する。
関連論文リスト
- Weave of Formal Thought [51.56484100374058]
WoFT(Weave of Formal Thought)は、厳密な構文的検証と学習された構造的表現を結合したパラダイムである。
本稿では,非終端文法記号を直接生成にインターリーブするために,言語モデルを訓練する潜時可変微調整法を提案する。
Pythonでは、RWS目的のStarCoder2-3Bを微調整することで、テキストのみのSFTベースラインと比較して、トーケン毎のクロスエントロピーが14.3%削減される。
論文 参考訳（メタデータ） (2026-06-24T15:58:11Z) - Speaking the Language of Science: Toward a General-Purpose Generative Foundation Model for the Natural Sciences [89.71422932447423]
LOGOSは、自然科学における異種タスクを統一する科学生成言語モデルである。
空間的接触パターンと制約パターンを離散トークンとして表現することにより、モデルは純粋にシーケンシャルな方法で複雑な構造的相互作用をキャプチャする。
多様なタスクにわたって、LOGOSは一貫してドメイン固有のベースラインにマッチまたは性能を向上する。
論文 参考訳（メタデータ） (2026-06-15T16:14:53Z) - The Sensation Modulating Network:Haltability as the architectural ground for object-directed phenomenology [0.0]
我々は、この不備は、具体的エージェントのアーキテクチャの不完全な説明に起因していると主張している。
本研究は,身体全体としての認知エージェントである感覚変調ネットワーク(SMN)を提案する。
SMNは認知主義4Eの議論を和解し、再帰はネゴチブル・アクション・パターンの修正可能なダイナミクスの中で生きていく。
論文 参考訳（メタデータ） (2026-05-26T11:15:56Z) - Word Class Representations Spontaneously Emerge from Successor Representations Trained on Natural Language [0.0]
言語モデルは典型的には、シーケンス内の次のトークンを予測するために訓練される。
ここでは、強化学習の代替的予測原理である継承表現について検討する。
複数の時間的地平線にまたがる将来の単語分布を予測するためにニューラルネットワークを訓練する。
論文 参考訳（メタデータ） (2026-05-23T13:55:09Z) - Separable neural architectures as a primitive for unified predictive and generative intelligence [0.7318787399845128]
我々は、加法モデル、二次モデル、テンソル分解モデルを統合する表現クラスを定式化する。
SNAは、高次元の高分解成分への写像を分解する構造的帰納バイアスを課す。
これらの結果は、予測および生成知能のドメインに依存しないプリミティブとして分離可能なニューラルアーキテクチャを確立する。
論文 参考訳（メタデータ） (2026-03-12T17:56:54Z) - Objective-Free Local Learning and Emergent Language Structure in Thinking Machines [0.0]
本稿では,局所的な事象駆動型創発学習に基づく生成言語モデリングのためのニューロシンボリックフレームワークを提案する。
コアには階層的なホップフィールドメモリチェーンがあり、構成的短期記憶と動的トークン化器として機能する。
我々は、推論中に新しいニューロンを短時間活性化することで、分散マルチスケールトークンの特徴を象徴的な埋め込みに結合することを示した。
論文 参考訳（メタデータ） (2025-06-29T15:29:13Z) - Why Neural Network Can Discover Symbolic Structures with Gradient-based Training: An Algebraic and Geometric Foundation for Neurosymbolic Reasoning [73.18052192964349]
我々は、連続的なニューラルネットワークトレーニングのダイナミックスから、離散的なシンボル構造が自然に現れるかを説明する理論的枠組みを開発する。
ニューラルパラメータを測度空間に上げ、ワッサーシュタイン勾配流としてモデル化することにより、幾何的制約の下では、パラメータ測度 $mu_t$ が2つの同時現象となることを示す。
論文 参考訳（メタデータ） (2025-06-26T22:40:30Z) - Semantic Loss Functions for Neuro-Symbolic Structured Prediction [74.18322585177832]
このような構造に関する知識を象徴的に定義した意味的損失をトレーニングに注入する。
記号の配置に非依存であり、それによって表現される意味論にのみ依存する。
識別型ニューラルモデルと生成型ニューラルモデルの両方と組み合わせることができる。
論文 参考訳（メタデータ） (2024-05-12T22:18:25Z) - ROSE: A Neurocomputational Architecture for Syntax [0.0]
本稿では,ROSEモデルと呼ばれる構文のニューロ計算アーキテクチャを提案する。
ROSEでは、構文の基本データ構造は原子的特徴、心的表現のタイプ(R)であり、単一ユニットとアンサンブルレベルでコード化されている。
低周波カップリングと位相振幅カップリング(pSTS-IFGによるデルタ-テータカップリング、IFGによるテータ-ガンマカップリングから概念ハブへのテータ-ガンマカップリング)の識別形式は、これらの構造を異なるワークスペースにエンコードする(E)。
論文 参考訳（メタデータ） (2023-03-15T18:44:37Z) - Equivariance with Learned Canonicalization Functions [77.32483958400282]
正規化を行うために小さなニューラルネットワークを学習することは、事前定義を使用することよりも優れていることを示す。
実験の結果,正準化関数の学習は多くのタスクで同変関数を学習する既存の手法と競合することがわかった。
論文 参考訳（メタデータ） (2022-11-11T21:58:15Z) - Equivariant Transduction through Invariant Alignment [71.45263447328374]
グループ内ハードアライメント機構を組み込んだ,新しいグループ同変アーキテクチャを提案する。
我々のネットワーク構造は、既存のグループ同変アプローチよりも強い同変特性を発達させることができる。
また、SCANタスクにおいて、従来のグループ同変ネットワークよりも経験的に優れていたことが判明した。
論文 参考訳（メタデータ） (2022-09-22T11:19:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。