論文の概要: ROSE: A Neurocomputational Architecture for Syntax
- arxiv url: http://arxiv.org/abs/2303.08877v1
- Date: Wed, 15 Mar 2023 18:44:37 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-17 18:18:22.252359
- Title: ROSE: A Neurocomputational Architecture for Syntax
- Title（参考訳）: ROSE: シンタクスのための神経計算アーキテクチャ
- Authors: Elliot Murphy
- Abstract要約: 本稿では,ROSEモデルと呼ばれる構文のニューロ計算アーキテクチャを提案する。
ROSEでは、構文の基本データ構造は原子的特徴、心的表現のタイプ(R)であり、単一ユニットとアンサンブルレベルでコード化されている。
低周波カップリングと位相振幅カップリング(pSTS-IFGによるデルタ-テータカップリング、IFGによるテータ-ガンマカップリングから概念ハブへのテータ-ガンマカップリング)の識別形式は、これらの構造を異なるワークスペースにエンコードする(E)。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: A comprehensive model of natural language processing in the brain must
accommodate four components: representations, operations, structures and
encoding. It further requires a principled account of how these components
mechanistically, and causally, relate to each another. While previous models
have isolated regions of interest for structure-building and lexical access,
many gaps remain with respect to bridging distinct scales of neural complexity.
By expanding existing accounts of how neural oscillations can index various
linguistic processes, this article proposes a neurocomputational architecture
for syntax, termed the ROSE model (Representation, Operation, Structure,
Encoding). Under ROSE, the basic data structures of syntax are atomic features,
types of mental representations (R), and are coded at the single-unit and
ensemble level. Elementary computations (O) that transform these units into
manipulable objects accessible to subsequent structure-building levels are
coded via high frequency gamma activity. Low frequency synchronization and
cross-frequency coupling code for recursive categorial inferences (S). Distinct
forms of low frequency coupling and phase-amplitude coupling (delta-theta
coupling via pSTS-IFG; theta-gamma coupling via IFG to conceptual hubs) then
encode these structures onto distinct workspaces (E). Causally connecting R to
O is spike-phase/LFP coupling; connecting O to S is phase-amplitude coupling;
connecting S to E is a system of frontotemporal traveling oscillations;
connecting E to lower levels is low-frequency phase resetting of spike-LFP
coupling. ROSE is reliant on neurophysiologically plausible mechanisms, is
supported at all four levels by a range of recent empirical research, and
provides an anatomically precise and falsifiable grounding for the basic
property of natural language syntax: hierarchical, recursive
structure-building.
- Abstract（参考訳）: 脳内の自然言語処理の包括的なモデルでは、表現、操作、構造、エンコーディングの4つのコンポーネントを扱わなければならない。
さらに、これらのコンポーネントがいかに機械的かつ慎重に相互に関連しているかを原則的に説明する必要がある。
以前のモデルでは構造構築と語彙アクセスに関心のある独立した領域を持っていたが、神経の複雑さの異なるスケールを橋渡しすることに関して多くのギャップが残っている。
ニューラル振動が様々な言語過程をインデクシングする方法の既存の説明を拡張することにより、ROSEモデル(Representation, Operation, Structure, Encoding)と呼ばれる構文のためのニューロ計算アーキテクチャを提案する。
ROSEでは、構文の基本データ構造は原子的特徴、心的表現のタイプ(R)であり、単一ユニットとアンサンブルレベルでコード化されている。
これらのユニットをその後の構造構築レベルにアクセスできる操作可能なオブジェクトに変換する基礎計算(O)は、高周波ガンマ活動によって符号化される。
再帰的カテゴリー推論(S)のための低周波同期およびクロス周波数結合符号
低周波結合と位相振幅結合(pSTS-IFGによるデルタ-テータカップリング、IFGによるテータ-ガンマカップリング、概念ハブへのテータ-ガンマカップリング)の離散形式は、これらの構造を異なるワークスペース(E)にエンコードする。
因果接続RからOへの結合はスパイク相/LFP結合、OからSへの接続は位相振幅結合、SからEへの接続は前頭側進行振動系、Eから低レベルへの接続はスパイク-LFP結合の低周波位相リセットである。
ROSEは神経生理学的にもっともらしいメカニズムに依存しており、最近の実験的な研究によって4つのレベルすべてで支持され、自然言語構文の基本的性質である階層的、再帰的構造構築の解剖学的に正確で実現可能な基礎を提供する。
関連論文リスト
- Self-attention based high order sequence feature reconstruction of
dynamic functional connectivity networks with rs-fMRI for brain disease
classification [16.8590450689469]
本稿では,RS-fMRIデータを用いた脳疾患分類のための自己注意型畳み込みリカレントネットワーク(SA-CRN)学習フレームワークを提案する。
論文 参考訳（メタデータ） (2022-11-19T02:13:21Z) - Insights on Neural Representations for End-to-End Speech Recognition [28.833851817220616]
エンドツーエンド自動音声認識(ASR)モデルは、一般化された音声表現を学習することを目的としている。
相関解析手法を用いたネットワーク類似性の調査は、エンド・ツー・エンドASRモデルでは行われていない。
本稿では,CNN,LSTM,Transformerをベースとしたトレーニングにおいて,レイヤ間の内部ダイナミクスを解析し,検討する。
論文 参考訳（メタデータ） (2022-05-19T10:19:32Z) - Cross-Frequency Coupling Increases Memory Capacity in Oscillatory Neural
Networks [69.42260428921436]
クロス周波数カップリング(CFC)は、ニューロンの集団間での情報統合と関連している。
我々は,海馬および大脳皮質における観測された$theta - gamma$振動回路の計算的役割を予測するCFCのモデルを構築した。
CFCの存在は, 可塑性シナプスによって結合された神経細胞のメモリ容量を増加させることを示す。
論文 参考訳（メタデータ） (2022-04-05T17:13:36Z) - Modeling Structure with Undirected Neural Networks [20.506232306308977]
任意の順序で実行できる計算を指定するためのフレキシブルなフレームワークである、非指向型ニューラルネットワークを提案する。
さまざまなタスクにおいて、非構造的かつ構造化された非指向型ニューラルアーキテクチャの有効性を実証する。
論文 参考訳（メタデータ） (2022-02-08T10:06:51Z) - Spatio-Temporal Representation Factorization for Video-based Person
Re-Identification [55.01276167336187]
本稿では、re-IDのための時空間表現分解モジュール(STRF)を提案する。
STRFはフレキシブルな新しい計算ユニットであり、re-IDのための既存のほとんどの3D畳み込みニューラルネットワークアーキテクチャと併用することができる。
実験により、STRFは様々なベースラインアーキテクチャの性能を向上し、新しい最先端の成果を示す。
論文 参考訳（メタデータ） (2021-07-25T19:29:37Z) - Discrete-Valued Neural Communication [85.3675647398994]
コンポーネント間で伝達される情報を離散表現に制限することは、有益なボトルネックであることを示す。
個人は「猫」が特定の経験に基づいて何であるかについて異なる理解を持っているが、共有された離散トークンは、個人間のコミュニケーションが内部表現の個人差によって切り離されることを可能にする。
我々は、量子化機構をベクトル量子化変分オートコーダから共有符号ブックによる多頭部離散化に拡張し、離散値ニューラル通信に利用する。
論文 参考訳（メタデータ） (2021-07-06T03:09:25Z) - PredRNN: A Recurrent Neural Network for Spatiotemporal Predictive
Learning [109.84770951839289]
歴史的文脈からビジュアルダイナミクスを学習するための新しいリカレントネットワークであるPredRNNを紹介する。
本手法は,3つの標準データセット上で高い競争結果が得られることを示す。
論文 参考訳（メタデータ） (2021-03-17T08:28:30Z) - Incremental Training of a Recurrent Neural Network Exploiting a
Multi-Scale Dynamic Memory [79.42778415729475]
本稿では,マルチスケール学習を対象とする,漸進的に訓練された再帰的アーキテクチャを提案する。
隠れた状態を異なるモジュールに分割することで、シンプルなRNNのアーキテクチャを拡張する方法を示す。
新しいモジュールがモデルに反復的に追加され、徐々に長い依存関係を学習するトレーニングアルゴリズムについて議論する。
論文 参考訳（メタデータ） (2020-06-29T08:35:49Z) - Equivalence in Deep Neural Networks via Conjugate Matrix Ensembles [0.0]
ディープラーニングアーキテクチャの等価性を検出するための数値解析手法を開発した。
経験的証拠は、ニューラルアーキテクチャのスペクトル密度とそれに対応する共役円形アンサンブルの差が消えているという現象を裏付けている。
論文 参考訳（メタデータ） (2020-06-14T12:34:13Z) - Separation of Memory and Processing in Dual Recurrent Neural Networks [0.0]
入力に接続する繰り返し層とフィードフォワード層を積み重ねるニューラルネットワークアーキテクチャを探索する。
繰り返し単位の活性化関数にノイズが導入されたとき、これらのニューロンは二項活性化状態に強制され、ネットワークは有限オートマトンのように振る舞う。
論文 参考訳（メタデータ） (2020-05-17T11:38:42Z) - Logical Natural Language Generation from Open-Domain Tables [107.04385677577862]
本稿では,その事実に関連付けられた自然言語文をモデルで生成するタスクを提案する。
提案した論理的 NLG 問題の研究を容易にするために,幅広い論理的・記号的推論を特徴とする既存の TabFact データセットcitechen 2019tabfact を用いる。
新しいタスクは、シーケンス順序と論理順序のミスマッチのため、既存のモノトニック生成フレームワークに課題をもたらす。
論文 参考訳（メタデータ） (2020-04-22T06:03:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。