論文の概要: Distributed neural encoding of binding to thematic roles
- arxiv url: http://arxiv.org/abs/2110.12342v1
- Date: Sun, 24 Oct 2021 03:26:30 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-31 17:54:20.914527
- Title: Distributed neural encoding of binding to thematic roles
- Title(参考訳): 主題的役割への結合の分散神経符号化
- Authors: Matthias Lalisse, Paul Smolensky
- Abstract要約: fMRIにおける構成成分の研究のためのフレームワークと手法を提案する。
本手法は,複雑な言語構造をコードするニューラルパターンを推定する。
- 参考スコア(独自算出の注目度): 7.698389510704214
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: A framework and method are proposed for the study of constituent composition
in fMRI. The method produces estimates of neural patterns encoding complex
linguistic structures, under the assumption that the contributions of
individual constituents are additive. Like usual techniques for modeling
compositional structure in fMRI, the proposed method employs pattern
superposition to synthesize complex structures from their parts. Unlike these
techniques, superpositions are sensitive to the structural positions of
constituents, making them irreducible to structure-indiscriminate
("bag-of-words") models of composition. Reanalyzing data from a study by
Frankland and Greene (2015), it is shown that comparison of neural predictive
models with differing specifications can illuminate aspects of neural
representational contents that are not apparent when composition is not
modelled. The results indicate that the neural instantiations of the binding of
fillers to thematic roles in a sentence are non-orthogonal, and therefore
spatially overlapping.
- Abstract(参考訳): fMRIにおける構成成分の研究のためのフレームワークと手法を提案する。
本手法は, 個々の構成成分の寄与が付加的であることを前提として, 複雑な言語構造をコードするニューラルパターンの推定を行う。
fMRIで合成構造をモデル化する通常の手法と同様に、本手法ではパターン重ね合わせを用いて複雑な構造を合成する。
これらの技法と異なり、重ね合わせは構成要素の構造的位置に敏感であり、構成モデルの構造的無差別化("bag-of-words")が不可能である。
frankland and greene (2015) による研究から得られたデータの再分析により、異なる仕様を持つ神経予測モデルの比較により、合成がモデル化されていないときに明らかでない神経表現内容の側面を照らすことが示されている。
その結果,文中の主題的役割に対するフィラーの結合は非直交的であり,空間的に重なり合うことが示唆された。
関連論文リスト
- Compositional Structures in Neural Embedding and Interaction Decompositions [101.40245125955306]
ニューラルネットワークにおけるベクトル埋め込みにおける線形代数構造間の基本的な対応について述べる。
相互作用分解」の観点から構成構造の特徴づけを導入する。
モデルの表現の中にそのような構造が存在するためには、必要かつ十分な条件を確立する。
論文 参考訳(メタデータ) (2024-07-12T02:39:50Z) - What makes Models Compositional? A Theoretical View: With Supplement [60.284698521569936]
本稿では,構成関数の一般神経-記号的定義とその構成複雑性について述べる。
既存の汎用および特殊目的のシーケンス処理モデルがこの定義にどのように適合しているかを示し、それらを用いて構成複雑性を分析する。
論文 参考訳(メタデータ) (2024-05-02T20:10:27Z) - Recursive Neural Networks with Bottlenecks Diagnose
(Non-)Compositionality [65.60002535580298]
データの構成性の定量化は難しい課題であり、主に短い発話のために研究されている。
モデルにおけるデータの表現とボトルネックの有無を比較することで,構成性の測定値が得られることを示す。
本手法は、合成データを用いた算術式の評価と、自然言語データを用いた感情分類に適用する。
論文 参考訳(メタデータ) (2023-01-31T15:46:39Z) - Neural-Symbolic Recursive Machine for Systematic Generalization [113.22455566135757]
我々は、基底記号システム(GSS)のコアとなるニューラル・シンボリック再帰機械(NSR)を紹介する。
NSRは神経知覚、構文解析、意味推論を統合している。
我々はNSRの有効性を,系統的一般化能力の探索を目的とした4つの挑戦的ベンチマークで評価した。
論文 参考訳(メタデータ) (2022-10-04T13:27:38Z) - Learning Disentangled Representations for Natural Language Definitions [0.0]
テキストデータの連続的な構文的・意味的規則性は、構造的バイアスと生成的要因の両方をモデルに提供するのに有効である、と我々は主張する。
本研究では,文型,定義文の表現的・意味的に密接なカテゴリに存在する意味的構造を利用して,不整合表現を学習するための変分オートエンコーダを訓練する。
論文 参考訳(メタデータ) (2022-09-22T14:31:55Z) - Reproducing Kernels and New Approaches in Compositional Data Analysis [0.0]
人間の腸内マイクロバイオームのような構成データを分析するには、データの形状を慎重に扱う必要がある。
本研究では、合成データが本質的に射影的であるというキーとなる観察に基づいて、構成領域を群作用によって外される球の商位相として再解釈する。
この構成データのためのRKHSの構築は、今後の方法論開発のために広く研究の道を開くだろう。
論文 参考訳(メタデータ) (2022-05-02T18:46:23Z) - Probing for Constituency Structure in Neural Language Models [11.359403179089817]
我々は、Penn Treebank (PTB)で表される構成構造に焦点をあてる。
4つの事前訓練されたトランスフォーマーLMが,我々の探索作業において高い性能を得ることがわかった。
完全な選挙区木をLM表現から線形に分離できることを示す。
論文 参考訳(メタデータ) (2022-04-13T07:07:37Z) - A deep learning driven pseudospectral PCE based FFT homogenization
algorithm for complex microstructures [68.8204255655161]
提案手法は,従来の手法よりも高速に評価できる一方で,興味の中心モーメントを予測できることを示す。
提案手法は,従来の手法よりも高速に評価できると同時に,興味の中心モーメントを予測できることを示す。
論文 参考訳(メタデータ) (2021-10-26T07:02:14Z) - Causal Abstractions of Neural Networks [9.291492712301569]
本稿では,テキストの抽象の形式的理論に基づく新しい構造解析手法を提案する。
本稿では,Multiply Quantified Natural Language Inference (MQNLI) コーパスで学習したニューラルネットワークの解析に本手法を適用した。
論文 参考訳(メタデータ) (2021-06-06T01:07:43Z) - Compositional Processing Emerges in Neural Networks Solving Math
Problems [100.80518350845668]
人工知能の最近の進歩は、大きなモデルが十分な言語データに基づいて訓練されると、文法構造が表現に現れることを示している。
我々は、この研究を数学的推論の領域にまで拡張し、どのように意味を構成するべきかについての正確な仮説を定式化することができる。
私たちの研究は、ニューラルネットワークがトレーニングデータに暗黙的に構造化された関係について何かを推測できるだけでなく、個々の意味の合成を合成全体へと導くために、この知識を展開できることを示している。
論文 参考訳(メタデータ) (2021-05-19T07:24:42Z) - Equivalence in Deep Neural Networks via Conjugate Matrix Ensembles [0.0]
ディープラーニングアーキテクチャの等価性を検出するための数値解析手法を開発した。
経験的証拠は、ニューラルアーキテクチャのスペクトル密度とそれに対応する共役円形アンサンブルの差が消えているという現象を裏付けている。
論文 参考訳(メタデータ) (2020-06-14T12:34:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。