論文の概要: Computational Lesions in Multilingual Language Models Separate Shared and Language-specific Brain Alignment
- arxiv url: http://arxiv.org/abs/2604.10627v1
- Date: Sun, 12 Apr 2026 13:06:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-14 20:13:16.137074
- Title: Computational Lesions in Multilingual Language Models Separate Shared and Language-specific Brain Alignment
- Title(参考訳): 多言語言語モデルにおける計算的病変 : 共有と言語固有の脳アライメントの分離
- Abstract要約: 脳がさまざまな言語で言語をどのようにサポートしているかは、神経科学の基本的な問題であり、多言語人工知能にとって有用なテストである。
ここでは、制御可能なシステムとして6つの多言語大言語モデル(LLM)を使用し、対象とする計算障害を生成する。
自然主義的物語聴取100分間における機能的磁気共鳴画像(fMRI)の応答予測における無傷モデルと損傷モデルの比較を行った。
- 参考スコア(独自算出の注目度): 43.72658186052991
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: How the brain supports language across different languages is a basic question in neuroscience and a useful test for multilingual artificial intelligence. Neuroimaging has identified language-responsive brain regions across languages, but it cannot by itself show whether the underlying processing is shared or language-specific. Here we use six multilingual large language models (LLMs) as controllable systems and create targeted ``computational lesions'' by zeroing small parameter sets that are important across languages or especially important for one language. We then compare intact and lesioned models in predicting functional magnetic resonance imaging (fMRI) responses during 100 minutes of naturalistic story listening in native English, Chinese and French (112 participants). Lesioning a compact shared core reduces whole-brain encoding correlation by 60.32% relative to intact models, whereas language-specific lesions preserve cross-language separation in embedding space but selectively weaken brain predictivity for the matched native language. These results support a shared backbone with embedded specializations and provide a causal framework for studying multilingual brain-model alignment.
- Abstract(参考訳): 脳がさまざまな言語で言語をどのようにサポートしているかは、神経科学の基本的な問題であり、多言語人工知能にとって有用なテストである。
ニューロイメージングは言語にまたがる言語応答性脳領域を特定しているが、基礎となる処理が共有されているか、言語固有のものであるかは、それ自体は示していない。
ここでは、制御可能なシステムとして6つの多言語大言語モデル(LLM)を使用し、言語間で重要なパラメータセットをゼロにしたり、特に1つの言語で重要なパラメータセットをゼロにすることで、ターゲットの ``computational lesions'' を作成する。
自然主義的物語聴取100分間における機能的磁気共鳴画像(fMRI)の応答予測における無傷モデルと損傷モデルの比較(112名)。
コンパクトな共有コアの破壊は、無傷モデルと比較して脳全体のコード相関を60.32%減少させる一方、言語特異的な病変は、埋め込み空間における言語間の分離を保ちつつ、マッチしたネイティブ言語に対する選択的に脳の予測性を弱める。
これらの結果は、組込み特化を伴う共有バックボーンをサポートし、多言語脳モデルアライメントを研究するための因果的枠組みを提供する。
関連論文リスト
- Distribution-aware Language Neuron Identification in Multilingual Large Language Models [11.749671657167966]
既存の作業は、各ニューロンの言語学的確率のエントロピーを用いて言語特異性を測定する。
本稿では,言語ごとのアクティベーション分布のペア関係を利用した分布認識言語ニューロン選択法を提案する。
我々の識別子は、言語固有の因果効果をより効果的に分離し、ニューロン当たりの目標言語損傷を最大4.9$times(約4.9ドル)に高める。
論文 参考訳(メタデータ) (2026-09-10T02:12:52Z) - Multilingual Emotion Neurons in Large Audio-Language Models [15.987865011030387]
感情は人間のコミュニケーションの中心であり、その表現は言語によって異なる。
大規模音声言語モデル(LALM)が言語固有の相関や言語に依存しない表現を通じて感情を符号化するかどうかは不明である。
本研究は,神経レベルでの解釈可能性に関する最初の研究である。
論文 参考訳(メタデータ) (2026-08-09T15:42:55Z) - Language Arithmetics: Towards Systematic Language Neuron Identification and Manipulation [9.518772041855923]
Llama-3.1-8B, Mistral-Nemo-12B, Aya-Expanse-8B & 32B の言語特異的ニューロンを21言語で解析した。
これらのニューロンはより深い層に集結し、非ラテン語のスクリプトはより高度な特殊化を示す。
不要な言語を非活性化し、望ましい言語をアクティベートし、より単純な代替アプローチよりも優れた性能を発揮する。
論文 参考訳(メタデータ) (2025-07-30T12:23:39Z) - How does Alignment Enhance LLMs' Multilingual Capabilities? A Language Neurons Perspective [64.79894853375478]
本稿では,言語ニューロン(言語特異的ニューロンや言語関連ニューロンを含む)と言語非依存ニューロンを検出する,より微細なニューロン識別アルゴリズムを提案する。
異なる種類のニューロンの分布特性に基づいて、多言語推論のためのLCMの内部過程を4つの部分に分割する。
我々は、異なる種類のニューロンに焦点を合わせ、その前後のモデルを体系的に分析する。
論文 参考訳(メタデータ) (2025-05-27T17:59:52Z) - Sharing Matters: Analysing Neurons Across Languages and Tasks in LLMs [85.0284555835015]
大規模言語モデル(LLM)は自然言語処理(NLP)の分野に革命をもたらした。
多言語環境でのLLMの内部動作を探究する研究はほとんどない。
我々は、異なる言語にまたがる特定の入力に対する応答に基づいて、ニューロンを4つの異なるカテゴリに分類する。
論文 参考訳(メタデータ) (2024-06-13T16:04:11Z) - BrainLLM: Generative Language Decoding from Brain Recordings [77.66707255697706]
本稿では,大言語モデルと意味脳デコーダの容量を利用した生成言語BCIを提案する。
提案モデルでは,視覚的・聴覚的言語刺激のセマンティック内容に整合したコヒーレントな言語系列を生成することができる。
本研究は,直接言語生成におけるBCIの活用の可能性と可能性を示すものである。
論文 参考訳(メタデータ) (2023-11-16T13:37:21Z) - Joint processing of linguistic properties in brains and language models [14.997785690790032]
人間の脳と言語モデルによる言語情報の詳細な処理の対応について検討する。
特定の言語特性の除去は脳のアライメントを著しく低下させる。
これらの知見は、脳と言語モデルとの整合における特定の言語情報の役割の明確な証拠である。
論文 参考訳(メタデータ) (2022-12-15T19:13:42Z) - Same Neurons, Different Languages: Probing Morphosyntax in Multilingual
Pre-trained Models [84.86942006830772]
多言語事前学習モデルは文法に関する言語・ユニバーサルの抽象化を導出できると推測する。
43の言語と14のモルフォシンタクティックなカテゴリーで、最先端のニューロンレベルのプローブを用いて、初めて大規模な実験を行った。
論文 参考訳(メタデータ) (2022-05-04T12:22:31Z) - Low-Dimensional Structure in the Space of Language Representations is
Reflected in Brain Responses [62.197912623223964]
言語モデルと翻訳モデルは,単語の埋め込み,構文的・意味的タスク,将来的な単語埋め込みとの間を円滑に介在する低次元構造を示す。
この表現埋め込みは、各特徴空間が、fMRIを用いて記録された自然言語刺激に対する人間の脳反応にどれだけうまく対応しているかを予測することができる。
これは、埋め込みが脳の自然言語表現構造の一部を捉えていることを示唆している。
論文 参考訳(メタデータ) (2021-06-09T22:59:12Z) - Does injecting linguistic structure into language models lead to better
alignment with brain recordings? [13.880819301385854]
言語モデルと脳記録との整合性は,構文的あるいは意味論的フォーマリズムからのアノテーションに偏りがある場合と評価する。
提案手法は,脳内の意味の組成について,より標的となる仮説の評価を可能にする。
論文 参考訳(メタデータ) (2021-01-29T14:42:02Z) - Bridging Linguistic Typology and Multilingual Machine Translation with
Multi-View Language Representations [83.27475281544868]
特異ベクトル標準相関解析を用いて、各情報源からどのような情報が誘導されるかを調べる。
我々の表現は類型学を組み込み、言語関係と相関関係を強化する。
次に、多言語機械翻訳のための多視点言語ベクトル空間を利用して、競合する全体的な翻訳精度を実現する。
論文 参考訳(メタデータ) (2020-04-30T16:25:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。