論文の概要: On the Emergence of Syntax by Means of Local Interaction
- arxiv url: http://arxiv.org/abs/2604.17857v2
- Date: Tue, 21 Apr 2026 13:11:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-22 14:04:47.933774
- Title: On the Emergence of Syntax by Means of Local Interaction
- Title(参考訳): 局所的相互作用による構文の創発について
- Abstract要約: 最小限のシステム上での構文処理の具体例を示す。
このシステムは算術表現文法のメンバシップ問題に基づいて訓練される。
訓練後、内部の$L倍の格子は自発的に順序付き空間的に拡張された表現に自己組織化される。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Can syntactic processing emerge spontaneously from purely local interaction? We present a concrete instance on a minimal system: an 18,658-parameter two-dimensional neural cellular automaton (NCA), supervised by nothing more than a 1-bit boundary signal, is trained on the membership problem of an arithmetic-expression grammar. After training, its internal $L \times L$ grid spontaneously self-organizes into an ordered, spatially extended representation that we name Proto-CKY. This representation satisfies three operational criteria for syntactic processing: expressive power beyond the regular languages, structural generalization beyond the training distribution, and an internal organization quantitatively aligned with grammatical structure (Pearson $r \approx 0.71$). It emerges independently on four context-free grammars and regenerates spontaneously after perturbation. Proto-CKY is functionally aligned with the CKY algorithm but formally distinct from it: it is a physical prototype, a concrete instantiation of a mathematical ideal on a physical substrate, and the systematic distance between the two carries information about the substrate itself.
- Abstract(参考訳): 純粋に局所的な相互作用から自然発生的にシナティクス処理は可能か?
1ビット境界信号のみによって制御される18,658パラメータの2次元神経セルオートマトン(NCA)は、算術表現文法のメンバシップ問題に基づいて訓練される。
訓練後、内部の$L \times L$ gridは、Proto-CKYと呼ばれる順序付き空間拡張表現に自発的に自己組織化する。
この表現は、正規言語を超えた表現力、訓練分布を超えた構造一般化、文法構造と定量的に整合した内部組織(Pearson $r \approx 0.71$)の3つの操作基準を満たす。
4つの文脈自由文法に独立して出現し、摂動後に自然に再生する。
Proto-CKY は CKY アルゴリズムと機能的に一致しているが、物理的プロトタイプであり、物理基板上の数学的理想の具体的なインスタンス化であり、両者間の系統的な距離は基板自体に関する情報を伝達する。
関連論文リスト
- Formal Properties of Language as Constraints on Neural Dynamics [0.20305676256390937]
現在の研究では、電極、ボクセル、または言語モデル層を飽和させる言語変数とテストで刺激が神経活動を予測する。
ここでは、言語の代数的性質が、メカニズムが保持しなければならない不変量を指定することを示す。
そこで我々は,2つの構成群が共有シナプスを介して収束し,サブ線形に結合し,マージする,新たな神経結合操作「メルド」を提案する。
論文 参考訳(メタデータ) (2026-09-13T08:41:56Z) - Weave of Formal Thought [51.56484100374058]
WoFT(Weave of Formal Thought)は、厳密な構文的検証と学習された構造的表現を結合したパラダイムである。
本稿では,非終端文法記号を直接生成にインターリーブするために,言語モデルを訓練する潜時可変微調整法を提案する。
Pythonでは、RWS目的のStarCoder2-3Bを微調整することで、テキストのみのSFTベースラインと比較して、トーケン毎のクロスエントロピーが14.3%削減される。
論文 参考訳(メタデータ) (2026-06-24T15:58:11Z) - $\mathcal{S}^2$IT: Stepwise Syntax Integration Tuning for Large Language Models in Aspect Sentiment Quad Prediction [51.165432266846096]
構文構造情報は、大言語モデル(LLM)の生成パラダイムにおいて未利用である
S2ITは、多段階のチューニングプロセスを通じて、構文構造知識をLLMに徐々に統合する。
実験により、S2ITは複数のデータセットにわたる最先端のパフォーマンスを大幅に改善することが示された。
論文 参考訳(メタデータ) (2026-04-25T13:24:29Z) - CAPSUL: A Comprehensive Human Protein Benchmark for Subcellular Localization [50.559485139565076]
我々は, 多様な3次元構造表現と微細な細胞内局在アノテーションを統合するデータセットである $mathbfCAPSUL$ という新しいベンチマークを導入する。
このベンチマークは、様々な最先端のシーケンスベースモデルと構造ベースモデルを用いて評価し、この課題に構造的特徴を関与させることの重要性を示す。
最後に,Golgi 装置のケーススタディを通じて,構造に基づく手法の強力な解釈可能性を示す。
論文 参考訳(メタデータ) (2026-03-19T07:33:04Z) - Separable neural architectures as a primitive for unified predictive and generative intelligence [0.7318787399845128]
我々は、加法モデル、二次モデル、テンソル分解モデルを統合する表現クラスを定式化する。
SNAは、高次元の高分解成分への写像を分解する構造的帰納バイアスを課す。
これらの結果は、予測および生成知能のドメインに依存しないプリミティブとして分離可能なニューラルアーキテクチャを確立する。
論文 参考訳(メタデータ) (2026-03-12T17:56:54Z) - From Static Structures to Ensembles: Studying and Harnessing Protein Structure Tokenization [15.864659611818661]
タンパク質構造トークン化は、3D構造を離散的あるいはベクトル化された表現に変換する。
構造トークン化に関する最近の多くの研究にもかかわらず、基礎となる離散表現の性質はよく理解されていない。
構造予測のための言語モデルにおける構造トークンの有効利用は、リッチで訓練済みのシーケンス埋め込みを使うことに依存していることを示す。
論文 参考訳(メタデータ) (2025-11-13T07:58:24Z) - Spatial Semantic Recurrent Mining for Referring Image Segmentation [63.34997546393106]
高品質なクロスモーダリティ融合を実現するために,Stextsuperscript2RMを提案する。
これは、言語特徴の分散、空間的意味的再帰的分離、パーセマンティック・セマンティック・バランシングという三部作の作業戦略に従う。
提案手法は他の最先端アルゴリズムに対して好適に機能する。
論文 参考訳(メタデータ) (2024-05-15T00:17:48Z) - Semantic Loss Functions for Neuro-Symbolic Structured Prediction [74.18322585177832]
このような構造に関する知識を象徴的に定義した意味的損失をトレーニングに注入する。
記号の配置に非依存であり、それによって表現される意味論にのみ依存する。
識別型ニューラルモデルと生成型ニューラルモデルの両方と組み合わせることができる。
論文 参考訳(メタデータ) (2024-05-12T22:18:25Z) - Operational Quantum Mereology and Minimal Scrambling [3.499870393443268]
系の動的法則から生じる自然量子サブシステムとは何か?
まず、可観測性の観点から一般化テンソル積構造(gTPS)を演算子$cal A$とその可換体の双対として定義する。
本稿では,gTPSを動的に選択するために,短時間でスクランブルする最小限の情報量に関する運用基準を提案する。
論文 参考訳(メタデータ) (2022-12-29T15:14:38Z) - System theoretic approach of information processing in nested cellular
automata [0.0]
ネストセルオートマトンにおけるマルチレベル処理に基づく正規構造における情報処理の概念について述べる。
モデルでは、特殊相対性理論で使われる表現に類似した表現が現れる。
論文 参考訳(メタデータ) (2022-10-12T09:45:45Z) - X-volution: On the unification of convolution and self-attention [52.80459687846842]
本稿では,畳み込み操作と自己注意操作の両方からなるマルチブランチ基本モジュールを提案する。
提案したX-進化は、非常に競争力のある視覚的理解の改善を実現する。
論文 参考訳(メタデータ) (2021-06-04T04:32:02Z) - Syntactic representation learning for neural network based TTS with
syntactic parse tree traversal [49.05471750563229]
本稿では,構文解析木に基づく構文表現学習手法を提案し,構文構造情報を自動的に活用する。
実験の結果,提案手法の有効性が示された。
複数の構文解析木を持つ文では、合成音声から韻律的差異が明確に認識される。
論文 参考訳(メタデータ) (2020-12-13T05:52:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。