論文の概要: Decomposing Brain-LLM Alignment with Interpretable Semantic Representations

• arxiv url: http://arxiv.org/abs/2610.21508v1
• Date: Thu, 15 Oct 2026 08:44:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-16 19:13:16.282066
• Title: Decomposing Brain-LLM Alignment with Interpretable Semantic Representations
• Title（参考訳）: 解釈可能な意味表現を用いた脳-LLMアライメントの分解
• Abstract要約: SCRIBEを1つの大きな言語モデルであるLLaMA2-7Bの脳のアライメントを分解するためのレンズとして使用する。 共有分散は脳全体と言語関連領域で支配的な要素であることがわかった。 コンクリート物性はLLaMA2-7Bとの共有分散が抽象特性よりも大きいことを示す。
• 参考スコア（独自算出の注目度）: 9.64868953110758
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) predict neural responses during naturalistic language comprehension, but the linguistic information underlying this brain alignment remains difficult to interpret. We use SCRIBE, an interpretable contextual semantic representation spanning 65 neurocognitively grounded semantic properties, as a lens for decomposing the brain alignment of one LLM, LLaMA2-7B. Using variance partitioning between LLaMA2-7B and SCRIBE on naturalistic fMRI data from seven participants listening to narrative stories (Moth Radio Hour), we separate brain-predictive variance shared between the two representations from variance unique to each. We find that shared variance is the dominant component across the whole brain and language-related regions, while both representations also retain significant unique contributions. We then examine whether the concreteness of individual semantic properties relates to shared and SCRIBE-unique brain-predictive variance. Concrete properties show greater shared variance with LLaMA2-7B than abstract properties across the whole brain and most examined regions, whereas abstract properties do not show greater SCRIBE-unique variance. Finally, property ablations reveal that semantic contributions extend across multiple dimensions, with cumulative effects on both shared and SCRIBE-unique variance. Together, these results show that, for LLaMA2-7B on this dataset, a substantial portion of brain-LLM alignment is associated with interpretable semantic information, while revealing complementary brain-predictive semantic information beyond the LLaMA2-7B representation.
• Abstract（参考訳）: 大言語モデル(LLM)は、自然言語理解中に神経反応を予測するが、この脳のアライメントの根底にある言語情報は解釈が難しいままである。 LLM, LLaMA2-7Bの脳のアライメントを分解するためのレンズとしてSCRIBEを用いた。 LLaMA2-7BとSCRIBEの分散分割を,物語を聴く7人の参加者の自然主義的fMRIデータ(Moth Radio Hour)に用いた。 共有分散は脳全体と言語関連領域において支配的な要素であり,両者の表現は有意な独特な貢献を保っている。 次に、個々の意味的特性の具体性が共有とSCRIBE-uniqueの脳予測のばらつきと関連しているかどうかを検討する。 コンクリート物性はLLaMA2-7Bとの共有分散が脳全体およびほとんどの検査領域の抽象特性よりも大きいのに対して,抽象特性はSCRIBE-unique分散が大きいことを示す。 最後に、プロパティの短縮により、セマンティックコントリビューションは複数の次元にまたがって広がり、共有とSCRIBE-ユニク分散の両方に累積効果が生じる。 これらの結果から,LLaMA2-7Bでは,脳-LLMアライメントのかなりの部分が解釈可能なセマンティック情報と関連し,LLaMA2-7B表現を超える補完的な脳-予測セマンティック情報を明らかにすることが明らかとなった。

関連論文リスト

• SCRIBE: Scalable Contextual Representations of Interpretable Brain-Grounded Semantics [9.90023943676004]
  SCRIBEは任意のテキストの解釈可能な単語レベルの意味表現を生成するフレームワークである。 人間の意味的特徴判断は文脈によって体系的に変化し,SCRIBEがこれらの変化を捉えていることを示す。 参加者が自然主義的な話を聴きながら記録された脳活動を用いて、SCRIBEは言語選択性脳領域における神経反応を予測することを示した。
  論文  参考訳（メタデータ） (2026-10-15T08:51:15Z)
• Interpreting Brain Responses to Language with Sparse Features from Language Models [5.261667457257713]
  我々は,高密度なLM隠蔽状態を階層的に構成したオートエンコーダ機能に置き換える符号化フレームワークを開発した。 言語処理中の脳の反応は、任意のLM特徴セットからのみ予測可能であることを示す。
  論文  参考訳（メタデータ） (2026-06-05T03:01:28Z)
• Large Language Models as Neurolinguistic Subjects: Discrepancy between Performance and Competence [49.60849499134362]
  本研究では,大言語モデル(LLM)の記号化(形式)および記号化(意味)に関する言語的理解について検討する。 ミニマルペアと診断プローブを組み合わせてモデル層間のアクティベーションパターンを解析する新しい手法を用いて,ニューロ言語学的アプローチを提案する。 その結果,(1)心理言語学的・神経言語学的手法では,言語能力と能力が異なっていること,(2)直接確率測定では言語能力が正確に評価されないこと,(3)指導のチューニングでは能力が大きく変化しないが,性能は向上しないことがわかった。
  論文  参考訳（メタデータ） (2024-11-12T04:16:44Z)
• What Are Large Language Models Mapping to in the Brain? A Case Against Over-Reliance on Brain Scores [1.8175282137722093]
  大規模言語モデル(LLM)の内部表現は最先端の脳スコアを達成し、人間の言語処理と計算原理を共有するという憶測に繋がる。 本稿では、LLM-to-Brainマッピングに関する衝撃的な研究で使用される3つのニューラルデータセットを分析し、参加者が短いパスを読み取るfMRIデータセットに特に焦点をあてる。 このデータセット上で訓練されたLLMの脳のスコアは、文の長さ、位置、代名詞による単語の埋め込みによって大きく説明できる。
  論文  参考訳（メタデータ） (2024-06-03T17:13:27Z)
• Divergences between Language Models and Human Brains [59.100552839650774]
  我々は,人間と機械語処理の相違点を体系的に探求する。 我々は、LMがうまく捉えられない2つの領域、社会的/感情的知性と身体的常識を識別する。 以上の結果から,これらの領域における微調整LMは,ヒト脳反応との整合性を向上させることが示唆された。
  論文  参考訳（メタデータ） (2023-11-15T19:02:40Z)
• Information-Restricted Neural Language Models Reveal Different Brain Regions' Sensitivity to Semantics, Syntax and Context [87.31930367845125]
  テキストコーパスを用いて語彙言語モデルGloveと超語彙言語モデルGPT-2を訓練した。 そして、これらの情報制限されたモデルが、自然主義的テキストを聴く人間のfMRI信号の時間軸を予測することができるかを評価した。 分析の結果、言語に関わるほとんどの脳領域は、構文変数と意味変数の両方に敏感であるが、これらの影響の相対的な大きさは、これらの領域で大きく異なることがわかった。
  論文  参考訳（メタデータ） (2023-02-28T08:16:18Z)
• Decomposing lexical and compositional syntax and semantics with deep language models [82.81964713263483]
  GPT2のような言語変換器の活性化は、音声理解中の脳活動に線形にマップすることが示されている。 本稿では,言語モデルの高次元アクティベーションを,語彙,構成,構文,意味表現の4つのクラスに分類する分類法を提案する。 その結果は2つの結果が浮かび上がった。 まず、構成表現は、語彙よりも広範な皮質ネットワークを募集し、両側の側頭、頭頂、前頭前皮質を包含する。
  論文  参考訳（メタデータ） (2021-03-02T10:24:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。