論文の概要: Convergent Representations of Linguistic Constructions in Human and Artificial Neural Systems

• arxiv url: http://arxiv.org/abs/2603.29617v1
• Date: Tue, 31 Mar 2026 11:37:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-01 15:25:03.579774
• Title: Convergent Representations of Linguistic Constructions in Human and Artificial Neural Systems
• Title（参考訳）: 人・人工神経系における言語構成の収束表現
• Authors: Pegah Ramezani, Thomas Kinfe, Andreas Maier, Achim Schilling, Patrick Krauss,
• Abstract要約: 最近の計算研究により、人工知能モデルがArgument Structure Constructions (ASCs) の微分表現を自然に発達させることが示されている。 本研究は脳波(EEG)を用いたヒト神経活動におけるこれらの予測を検証した。 時間周波数法、特徴抽出、機械学習分類を用いて分析した結果、文末位置で現れる構築固有のニューラルシグネチャが明らかになった。
• 参考スコア（独自算出の注目度）: 2.925652638976278
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Understanding how the brain processes linguistic constructions is a central challenge in cognitive neuroscience and linguistics. Recent computational studies show that artificial neural language models spontaneously develop differentiated representations of Argument Structure Constructions (ASCs), generating predictions about when and how construction-level information emerges during processing. The present study tests these predictions in human neural activity using electroencephalography (EEG). Ten native English speakers listened to 200 synthetically generated sentences across four construction types (transitive, ditransitive, caused-motion, resultative) while neural responses were recorded. Analyses using time-frequency methods, feature extraction, and machine learning classification revealed construction-specific neural signatures emerging primarily at sentence-final positions, where argument structure becomes fully disambiguated, and most prominently in the alpha band. Pairwise classification showed reliable differentiation, especially between ditransitive and resultative constructions, while other pairs overlapped. Crucially, the temporal emergence and similarity structure of these effects mirror patterns in recurrent and transformer-based language models, where constructional representations arise during integrative processing stages. These findings support the view that linguistic constructions are neurally encoded as distinct form-meaning mappings, in line with Construction Grammar, and suggest convergence between biological and artificial systems on similar representational solutions. More broadly, this convergence is consistent with the idea that learning systems discover stable regions within an underlying representational landscape - recently termed a Platonic representational space - that constrains the emergence of efficient linguistic abstractions.
• Abstract（参考訳）: 脳が言語構築をどのように処理するかを理解することは、認知神経科学と言語学における中心的な課題である。 最近の計算研究では、人工知能モデルが、Argument Structure Constructions (ASC) の区別された表現を自然に開発し、処理中に構築レベルの情報がいつ、どのように現れるかを予測することが示されている。 本研究は脳波(EEG)を用いてヒト神経活動におけるこれらの予測を検証した。 10人の母国英語話者が4つの構成タイプ(推移的,二乗的,帰納的,帰納的,帰納的)に200の合成文を聴き,その間に神経反応が記録された。 時間周波数法、特徴抽出、機械学習分類を用いて分析した結果、主に文末位置で生じる構成特異的なニューラルシグネチャが明らかになり、議論構造は完全に曖昧になり、最も顕著にアルファバンドに現れる。 ペアワイズ分類では、特に希釈的構造と結果的構造の間に信頼性のある分化を示し、他のペアは重なり合った。 重要なことは、これらの効果の時間的出現と類似性構造は、積分処理の段階で構成表現が生じる反復および変圧器ベース言語モデルにおけるミラーパターンである。 これらの知見は、言語構造は、構築文法に則って、異なる形式的意味のマッピングとして神経的にコード化されているという見解を支持し、類似の表現解上の生物学的システムと人工システムとの収束を示唆している。 より広範に、この収束は学習システムが基礎となる表現空間(最近プラトン表現空間と呼ばれる)の中の安定な領域を発見できるという考えと一致している。

関連論文リスト

• Hierarchical Latent Structures in Data Generation Process Unify Mechanistic Phenomena across Scale [50.33952894976367]
  我々は文脈自由文法を用いて、ウェブスケールテキストコーパスのための忠実で効率的なプロキシである合成コーパスを生成する。 設計したデータ生成プロセスにおいて,誘導ヘッド,関数ベクトル,ハイドラ効果という3つの力学現象の出現について検討する。 これらの現象の出現を説明する上で,データ生成プロセスの階層構造がX因子となることが示唆された。
  論文  参考訳（メタデータ） (2026-02-04T14:49:13Z)
• Emergence of Phonemic, Syntactic, and Semantic Representations in Artificial Neural Networks [5.596061506017836]
  人工ニューラルネットワークの活性化において,音素,語彙,構文表現が出現するか否かについて検討する。 その結果,音声モデルとテキストモデルの両方が学習段階をたどっていることがわかった。
  論文  参考訳（メタデータ） (2026-01-26T15:56:41Z)
• Discovering Chunks in Neural Embeddings for Interpretability [53.80157905839065]
  本稿では, チャンキングの原理を応用して, 人工神経集団活動の解釈を提案する。 まず、この概念を正則性を持つ人工シーケンスを訓練したリカレントニューラルネットワーク(RNN)で実証する。 我々は、これらの状態に対する摂動が関連する概念を活性化または阻害すると共に、入力における概念に対応する同様の繰り返し埋め込み状態を特定する。
  論文  参考訳（メタデータ） (2025-02-03T20:30:46Z)
• Analysis and Visualization of Linguistic Structures in Large Language Models: Neural Representations of Verb-Particle Constructions in BERT [0.0]
  本研究では,大言語モデル(LLM)における動詞-助詞の組み合わせの内部表現について検討する。 我々は'agree on'、'come back'、'give up'といった様々な動詞粒子構築のための各層の表現効果を分析する。 その結果,BERTの中間層は,各動詞カテゴリの表現精度に有意なばらつきがあり,構文構造を効果的に捉えていることがわかった。
  論文  参考訳（メタデータ） (2024-12-19T09:21:39Z)
• Analysis of Argument Structure Constructions in a Deep Recurrent Language Model [0.0]
  本稿では,再帰型ニューラルネットワークモデルにおけるArgument Structure Constructions(ASC)の表現と処理について検討する。 その結果, 文表現は, 全層にまたがる4つのASCに対応する異なるクラスタを形成することがわかった。 これは、脳に拘束された比較的単純なリカレントニューラルネットワークでさえ、様々な構成タイプを効果的に区別できることを示している。
  論文  参考訳（メタデータ） (2024-08-06T09:27:41Z)
• Investigating the Timescales of Language Processing with EEG and Language Models [0.0]
  本研究では,事前学習した言語モデルと脳波データからの単語表現のアライメントを検討することで,言語処理の時間的ダイナミクスについて検討する。 テンポラル・レスポンス・ファンクション(TRF)モデルを用いて、神経活動が異なる層にまたがるモデル表現とどのように対応するかを検討する。 分析の結果,異なる層からのTRFのパターンが明らかとなり,語彙的および構成的処理への様々な貢献が明らかになった。
  論文  参考訳（メタデータ） (2024-06-28T12:49:27Z)
• LOGICSEG: Parsing Visual Semantics with Neural Logic Learning and Reasoning [73.98142349171552]
  LOGICSEGは、神経誘導学習と論理推論をリッチデータとシンボリック知識の両方に統合する、全体論的視覚意味論である。 ファジィ論理に基づく連続的な緩和の間、論理式はデータとニューラルな計算グラフに基礎を置いており、論理によるネットワークトレーニングを可能にする。 これらの設計によりLOGICSEGは、既存のセグメンテーションモデルに容易に統合できる汎用的でコンパクトなニューラル論理マシンとなる。
  論文  参考訳（メタデータ） (2023-09-24T05:43:19Z)
• Low-Dimensional Structure in the Space of Language Representations is Reflected in Brain Responses [62.197912623223964]
  言語モデルと翻訳モデルは,単語の埋め込み,構文的・意味的タスク,将来的な単語埋め込みとの間を円滑に介在する低次元構造を示す。 この表現埋め込みは、各特徴空間が、fMRIを用いて記録された自然言語刺激に対する人間の脳反応にどれだけうまく対応しているかを予測することができる。 これは、埋め込みが脳の自然言語表現構造の一部を捉えていることを示唆している。
  論文  参考訳（メタデータ） (2021-06-09T22:59:12Z)
• Decomposing lexical and compositional syntax and semantics with deep language models [82.81964713263483]
  GPT2のような言語変換器の活性化は、音声理解中の脳活動に線形にマップすることが示されている。 本稿では,言語モデルの高次元アクティベーションを,語彙,構成,構文,意味表現の4つのクラスに分類する分類法を提案する。 その結果は2つの結果が浮かび上がった。 まず、構成表現は、語彙よりも広範な皮質ネットワークを募集し、両側の側頭、頭頂、前頭前皮質を包含する。
  論文  参考訳（メタデータ） (2021-03-02T10:24:05Z)
• Mechanisms for Handling Nested Dependencies in Neural-Network Language Models and Humans [75.15855405318855]
  我々は,「深層学習」手法で訓練された現代人工ニューラルネットワークが,人間の文処理の中心的な側面を模倣するかどうかを検討した。 ネットワークは、大きなコーパスで次の単語を予測するためにのみ訓練されたが、分析の結果、局所的および長距離の構文合意をうまく処理する特別なユニットが出現した。 我々は,複数の名詞の単数/複数状態における体系的な変化を伴う文中の数一致の違反を人間が検出する行動実験において,モデルの予測を検証した。
  論文  参考訳（メタデータ） (2020-06-19T12:00:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。