論文の概要: Artificial Aphasias in Lesioned Language Models
- arxiv url: http://arxiv.org/abs/2605.16222v1
- Date: Fri, 15 May 2026 17:33:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-18 21:22:26.393463
- Title: Artificial Aphasias in Lesioned Language Models
- Title(参考訳): 翻訳言語モデルにおける人工失語
- Authors: Nathan Roll, Jill Kries, Laura Gwilliams, Cory Shain,
- Abstract要約: 失語症は、損傷した脳領域と特定の症状プロファイルの間の因果関係を提供することによって、人間の言語の機能的構造を明らかにする。
言語モデルの創発的機能構造を特徴付けるために,失語症に触発された手法を導入する。
- 参考スコア(独自算出の注目度): 1.5749416770494704
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Aphasias, selective language impairments which can arise from brain damage, reveal the functional organization of human language by providing causal links between affected brain regions and specific symptom profiles. Drawing on this literature, we introduce an aphasia-inspired technique to characterize the emergent functional organization of language models (LMs). We ``lesion'' (zero-out) model parameters and measure the effects of this intervention against clinical aphasia symptoms, as diagnosed by the Text Aphasia Battery (TAB). When applied to 112,426 outputs from five 1B-scale LMs, the full range of evaluated symptoms surface, but in distributions largely distinct from those of humans. Our method uncovers broad symptom-profile differences between attention components (query, key, value, output) and feed-forward components (up, gate, down), with weaker evidence for differences among components within the same mechanism. We also find an effect of depth, where lesions in early layers disproportionately cause syntactic and semantic symptoms while late-middle layers yield higher rates of phonological and fluency deficits. Although some LM lesions induce quantitatively more similar profiles to some human aphasia types than others, qualitative differences in symptom patterns between LMs and humans suggest that aphasia syndromes are heavily influenced by the details of learning and processing rather than being a domain-invariant consequence of disrupted language processing.
- Abstract(参考訳): 脳損傷から生じる選択的言語障害である失語症は、損傷した脳領域と特定の症状プロファイルの間の因果関係を提供することで、人間の言語の機能的構造を明らかにする。
本稿では,言語モデル(LM)の創発的機能構造を特徴付ける,失語症に触発された手法を提案する。
我々は,テキスト失語症バッテリ(TAB)で診断された臨床失語症症状に対する介入の効果をモデルとして検討した。
5つの1BスケールのLMから112,426の出力を適用した場合、評価された症状の全範囲はヒトと大きく異なる。
本手法は,注目成分(クエリ,キー,値,出力)とフィードフォワード成分(アップ,ゲート,ダウン)の広い症状差を明らかにする。
また, 早期層に病変が相乗的, 意味的症状を引き起こし, 後期層は音韻的, 流速的障害の頻度が高くなった。
いくつかのLM病変は他のものよりも定量的にヒト失語症と類似したプロファイルを誘導するが、LMとヒトの症状パターンの質的差異は、失語症症候群が言語処理のドメイン不変の結果ではなく、学習や処理の細部から大きく影響されていることを示唆している。
関連論文リスト
- Adapting Self-Supervised Speech Representations for Cross-lingual Dysarthria Detection in Parkinson's Disease [72.0406069194794]
音声表現は、しばしば言語に依存した構造を符号化する。
本稿では,ソース言語による自己教師型音声表現とターゲット言語分布とを一致させる表現レベル言語シフトを提案する。
チェコ語,ドイツ語,スペイン語におけるパーキンソン病音声データセットの経口DDK記録に対するアプローチについて検討した。
論文 参考訳(メタデータ) (2026-03-23T17:23:39Z) - Tokenization and Morphological Fidelity in Uralic NLP: A Cross-Lingual Evaluation [9.23725598061561]
本研究は3つのサブワードパラダイムであるByte Pairを体系的に比較する。
BPE(Overlap BPE)、OBPE(Overlap BPE)、Unigram Language Model(Unigram Language Model)。
OBPEは従来手法よりも強い形態的アライメントとタグ付け精度を実現する。
論文 参考訳(メタデータ) (2026-02-04T05:59:25Z) - Component-Level Lesioning of Language Models Reveals Clinically Aligned Aphasia Phenotypes [40.41503864764337]
大規模言語モデルにおける機能的コンポーネントを選択的に摂動することで失語をシミュレートするコンポーネントレベルフレームワークを提案する。
我々のパイプラインはBrocaとWernickeの失語に対するサブタイプリンクコンポーネントを特定し、トップkサブタイプリンクコンポーネントを段階的に摂動させることにより、段階的障害を誘発する。
アーキテクチャや障害戦略を越えて、サブタイプターゲットの摂動は、サイズにマッチしたランダムな摂動よりも、より体系的で失語症のような回帰をもたらす。
論文 参考訳(メタデータ) (2026-01-27T15:47:22Z) - Graph Modelling Analysis of Speech-Gesture Interaction for Aphasia Severity Estimation [0.0]
失語症(英: aphasia)は、言語に責任がある脳の部位に損傷を負うことによって引き起こされる言語障害である。
最近の音声分析の進歩は、自発音声からの失語度の自動推定に焦点を当てている。
本研究では,失語症の重症度を推定するためのグラフニューラルネットワークに基づくフレームワークを提案する。
論文 参考訳(メタデータ) (2026-01-27T14:11:36Z) - Far from the Shallow: Brain-Predictive Reasoning Embedding through Residual Disentanglement [43.96899536703126]
現代の大規模言語モデル(LLM)は、言語に対する神経反応をモデル化するためにますます使われている。
彼らの内部表現は極めて「絡み合っている」ものであり、語彙、構文、意味、推論に関する情報を混ぜている。
この絡み合いは、言語学的に浅い特徴に対する従来の脳のコード解析に偏っている。
論文 参考訳(メタデータ) (2025-10-26T22:46:26Z) - A Methodology for Explainable Large Language Models with Integrated Gradients and Linguistic Analysis in Text Classification [2.556395214262035]
アルツハイマー病(AD)のような発声に影響を及ぼす神経疾患は、患者と介護者の生活に大きな影響を及ぼす。
近年のLarge Language Model (LLM) アーキテクチャの進歩は、自然発声による神経疾患の代表的特徴を識別する多くのツールを開発した。
本稿では,ADに代表される語彙成分を識別できるSLIME法を提案する。
論文 参考訳(メタデータ) (2024-09-30T21:45:02Z) - Investigating Critical Period Effects in Language Acquisition through Neural Language Models [70.6367059367609]
第二言語 (L2) の習得は幼少期以降難しくなる。
この期間以降、第1言語(L1)への露出を緩和することは、通常、L1の習熟度を著しく低下させることはない。
これらのCP効果が自然に決定された脳の成熟によるものなのか、または経験によって自然に誘発される神経接続の安定化であるのかは不明である。
論文 参考訳(メタデータ) (2024-07-27T19:17:10Z) - Divergences between Language Models and Human Brains [59.100552839650774]
我々は,人間と機械語処理の相違点を体系的に探求する。
我々は、LMがうまく捉えられない2つの領域、社会的/感情的知性と身体的常識を識別する。
以上の結果から,これらの領域における微調整LMは,ヒト脳反応との整合性を向上させることが示唆された。
論文 参考訳(メタデータ) (2023-11-15T19:02:40Z) - Sensitivity, Performance, Robustness: Deconstructing the Effect of
Sociodemographic Prompting [64.80538055623842]
社会デマトグラフィープロンプトは、特定の社会デマトグラフィープロファイルを持つ人間が与える答えに向けて、プロンプトベースのモデルの出力を操縦する技術である。
ソシオデマトグラフィー情報はモデル予測に影響を及ぼし、主観的NLPタスクにおけるゼロショット学習を改善するのに有用であることを示す。
論文 参考訳(メタデータ) (2023-09-13T15:42:06Z) - Information-Restricted Neural Language Models Reveal Different Brain
Regions' Sensitivity to Semantics, Syntax and Context [87.31930367845125]
テキストコーパスを用いて語彙言語モデルGloveと超語彙言語モデルGPT-2を訓練した。
そして、これらの情報制限されたモデルが、自然主義的テキストを聴く人間のfMRI信号の時間軸を予測することができるかを評価した。
分析の結果、言語に関わるほとんどの脳領域は、構文変数と意味変数の両方に敏感であるが、これらの影響の相対的な大きさは、これらの領域で大きく異なることがわかった。
論文 参考訳(メタデータ) (2023-02-28T08:16:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。