論文の概要: When Language Models Lose Their Mind: The Consequences of Brain Misalignment

• arxiv url: http://arxiv.org/abs/2603.23091v1
• Date: Tue, 24 Mar 2026 11:39:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-25 19:53:37.455752
• Title: When Language Models Lose Their Mind: The Consequences of Brain Misalignment
• Title（参考訳）: 言語モデルが意識を失うとき--脳の過失による影響
• Authors: Gabriele Merlin, Mariya Toneva,
• Abstract要約: 脳不整合型大言語モデル(LLM)を導入し,脳活動の予測能力の低下を訓練した。 我々はこれらのモデルを,意味論,構文論,談話,推論,形態学など多種多様な言語領域を含む200以上の下流タスクで評価する。 実験の結果,脳の不適応は下流での演奏を著しく損なうことが判明し,脳のアライメントが頑健な言語能力を達成する上で重要な役割を担っていることが明らかとなった。
• 参考スコア（独自算出の注目度）: 8.694405135908484
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: While brain-aligned large language models (LLMs) have garnered attention for their potential as cognitive models and for potential for enhanced safety and trustworthiness in AI, the role of this brain alignment for linguistic competence remains uncertain. In this work, we investigate the functional implications of brain alignment by introducing brain-misaligned models--LLMs intentionally trained to predict brain activity poorly while maintaining high language modeling performance. We evaluate these models on over 200 downstream tasks encompassing diverse linguistic domains, including semantics, syntax, discourse, reasoning, and morphology. By comparing brain-misaligned models with well-matched brain-aligned counterparts, we isolate the specific impact of brain alignment on language understanding. Our experiments reveal that brain misalignment substantially impairs downstream performance, highlighting the critical role of brain alignment in achieving robust linguistic competence. These findings underscore the importance of brain alignment in LLMs and offer novel insights into the relationship between neural representations and linguistic processing.
• Abstract（参考訳）: 脳に沿う大きな言語モデル(LLM)は、認知モデルとしての可能性と、AIの安全性と信頼性を高める可能性に注目されているが、この言語能力に対する脳のアライメントの役割はいまだ不明である。 本研究では,高言語モデルの性能を維持しつつ,脳活動の予測能力の低下を意図的に予測する脳内ミスアライメントモデルを導入することで,脳のアライメントが持つ機能的意味について検討する。 我々はこれらのモデルを,意味論,構文論,談話,推論,形態学など多種多様な言語領域を含む200以上の下流タスクで評価する。 脳不整合モデルと脳不整合モデルを比較することにより、脳不整合が言語理解に与える影響を分離する。 実験の結果,脳の不適応は下流での演奏を著しく損なうことが判明し,脳のアライメントが頑健な言語能力を達成する上で重要な役割を担っていることが明らかとなった。 これらの知見は、LLMにおける脳のアライメントの重要性を強調し、神経表現と言語処理の関係に関する新たな洞察を提供する。

関連論文リスト

• Language models align with brain regions that represent concepts across modalities [41.64161126642105]
  言語モデル(LM)と2つのニューラルネットワークメトリクスの関係について検討する。 実験の結果、脳のより意味のある領域において、言語のみのモデルと言語ビジョンのモデルの両方が信号をより良く予測できることがわかった。
  論文  参考訳（メタデータ） (2025-08-15T15:32:19Z)
• From Language to Cognition: How LLMs Outgrow the Human Language Network [21.08557980312889]
  大規模言語モデル(LLM)は、人間の言語ネットワークにおける神経活動と著しく類似している。 我々は8つのモデルサイズにまたがる300Bトークンにまたがる34のトレーニングチェックポイントをベンチマークし、脳のアライメントが言語能力とどのように関連しているかを分析した。
  論文  参考訳（メタデータ） (2025-03-03T18:54:19Z)
• MindAligner: Explicit Brain Functional Alignment for Cross-Subject Visual Decoding from Limited fMRI Data [64.92867794764247]
  MindAlignerは、限られたfMRIデータからのクロスオブジェクト脳デコーディングのためのフレームワークである。 脳伝達マトリックス(BTM)は、任意の新しい被験者の脳信号を既知の被験者の1人に投射する。 脳機能アライメントモジュールは、異なる視覚刺激下で軟質なクロスオブジェクト脳アライメントを実行するために提案されている。
  論文  参考訳（メタデータ） (2025-02-07T16:01:59Z)
• Brain-like Functional Organization within Large Language Models [58.93629121400745]
  人間の脳は長い間人工知能(AI)の追求にインスピレーションを与えてきた 最近のニューロイメージング研究は、人工ニューラルネットワーク(ANN)の計算的表現と、人間の脳の刺激に対する神経反応との整合性の説得力のある証拠を提供する。 本研究では、人工ニューロンのサブグループと機能的脳ネットワーク(FBN)を直接結合することで、このギャップを埋める。 このフレームワークはANサブグループをFBNにリンクし、大きな言語モデル(LLM)内で脳に似た機能的組織を記述できる。
  論文  参考訳（メタデータ） (2024-10-25T13:15:17Z)
• Large Language Model-based FMRI Encoding of Language Functions for Subjects with Neurocognitive Disorder [53.575426835313536]
  LLMを用いたfMRIエンコーディングと脳のスコアを用いた高齢者の言語関連機能変化について検討する。 脳のスコアと認知スコアの相関関係を脳全体のROIと言語関連ROIの両方で分析した。 以上の結果から,認知能力の向上は,中側頭回に有意な相関がみられた。
  論文  参考訳（メタデータ） (2024-07-15T01:09:08Z)
• Lost in Translation: The Algorithmic Gap Between LMs and the Brain [8.799971499357499]
  言語モデル(LM)は、様々な言語課題において印象的な性能を達成しているが、脳内の人間の言語処理との関係は未だ不明である。 本稿では、異なるレベルの分析において、LMと脳のギャップと重複について検討する。 神経科学からの洞察(空間性、モジュール性、内部状態、インタラクティブ学習など)が、より生物学的に妥当な言語モデルの開発にどのように役立つかについて議論する。
  論文  参考訳（メタデータ） (2024-07-05T17:43:16Z)
• Joint processing of linguistic properties in brains and language models [14.997785690790032]
  人間の脳と言語モデルによる言語情報の詳細な処理の対応について検討する。 特定の言語特性の除去は脳のアライメントを著しく低下させる。 これらの知見は、脳と言語モデルとの整合における特定の言語情報の役割の明確な証拠である。
  論文  参考訳（メタデータ） (2022-12-15T19:13:42Z)
• Neural Language Models are not Born Equal to Fit Brain Data, but Training Helps [75.84770193489639]
  音声ブックを聴く被験者の機能的磁気共鳴イメージングの時間軸予測に及ぼすテスト損失,トレーニングコーパス,モデルアーキテクチャの影響について検討した。 各モデルの訓練されていないバージョンは、同じ単語をまたいだ脳反応の類似性を捉えることで、脳内のかなりの量のシグナルをすでに説明していることがわかりました。 ニューラル言語モデルを用いたヒューマン・ランゲージ・システムの説明を目的とした今後の研究の実践を提案する。
  論文  参考訳（メタデータ） (2022-07-07T15:37:17Z)
• Model-based analysis of brain activity reveals the hierarchy of language in 305 subjects [82.81964713263483]
  言語の神経基盤を分解する一般的なアプローチは、個人間で異なる刺激に対する脳の反応を関連付けている。 そこで本研究では,自然刺激に曝露された被験者に対して,モデルに基づくアプローチが等価な結果が得られることを示す。
  論文  参考訳（メタデータ） (2021-10-12T15:30:21Z)
• Low-Dimensional Structure in the Space of Language Representations is Reflected in Brain Responses [62.197912623223964]
  言語モデルと翻訳モデルは,単語の埋め込み,構文的・意味的タスク,将来的な単語埋め込みとの間を円滑に介在する低次元構造を示す。 この表現埋め込みは、各特徴空間が、fMRIを用いて記録された自然言語刺激に対する人間の脳反応にどれだけうまく対応しているかを予測することができる。 これは、埋め込みが脳の自然言語表現構造の一部を捉えていることを示唆している。
  論文  参考訳（メタデータ） (2021-06-09T22:59:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。