論文の概要: Can Language Models Get "Aphasia" From Neuronal Ablation?

• arxiv url: http://arxiv.org/abs/2610.28214v1
• Date: Tue, 20 Oct 2026 13:49:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 21:58:47.837183
• Title: Can Language Models Get "Aphasia" From Neuronal Ablation?
• Title（参考訳）: 言語モデルは神経細胞のアブレーションから「失語」を得られるか?
• Abstract要約: 言語モデルでは,長期記憶(LSTM)とトランスフォーマーアーキテクチャにまたがるニューロン(計算単位)を体系的に吸収する。 全ユニットのアブレーションにより、LSTMは失語症とセマンティックな低下とともに徐々に低下し、軽度からモデレートの損傷を伴って平行に減少する。 トランスフォーマーは、フィードフォワードパーセプトロンアブレーションおよびスムーズなシグモイド様の低下の下で、アテンションヘッドアブレーション下で遅くしきい値のような崩壊を示す。
• 参考スコア（独自算出の注目度）: 1.2234742322758418
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Progressive neuronal loss is the hallmark of neurodegenerative disease, yet how loss of neurons shapes the pattern of cognitive decline remains poorly understood. Here we systematically ablate neurons (computational units) in language models spanning recurrent long short-term memory (LSTM) and Transformer architectures and apply limited fine-tuning as a simple proxy for compensatory plasticity. With whole-unit ablation, LSTMs degrade gradually with syntactic and semantic faculties declining in parallel across mild-to-moderate damage. By contrast, Transformers exhibit late threshold-like collapse under feedforward multi-layer perceptron (MLP) ablation and smoother sigmoid-like decline under attention-head ablation. Qualitatively, MLP-ablated models continue to make within-category semantic substitutions (semantic paraphasias) alongside rising non-responses, paralleling Wernicke-type aphasia, while attention-head ablation produces a trend toward loss of semantic specificity similar to the semantic variant of primary progressive aphasia (svPPA). These findings indicate that feedforward and attentional pathways have functionally distinct failure modes, suggesting that architecture-dependent failure profiles may offer new computational perspectives on aphasic syndromes and neurodegenerative diseases as an in silico model. Notably, early accuracy retention under Transformer attention-head ablation qualitatively parallels pre-symptomatic reserve before the 40--60% neuronal loss reported by Gomez-Isla et al. (1996) when clinical symptoms emerge in Alzheimer's disease, whereas the steadier LSTM decline parallels the symptomatic progression described by DeKosky and Scheff (1990) and Terry et al. (1991).
• Abstract（参考訳）: 進行性神経細胞喪失は神経変性疾患の徴候であるが、神経細胞の喪失が認知低下のパターンをいかに形作るかは理解されていない。 本稿では,長期連続記憶(LSTM)とトランスフォーマーアーキテクチャにまたがる言語モデルにおけるニューロン(計算単位)を体系的にアブレーションし,補償塑性の単純なプロキシとして限定微調整を適用する。 全ユニットのアブレーションによりLSTMは徐々に低下し、軽度からモデレートの損傷に対して構文的および意味的能力は平行に低下する。 対照的にトランスフォーマーは、フィードフォワード多層パーセプトロン(MLP)アブレーション下での遅延しきい値状の崩壊と、アテンションヘッドアブレーション下でのスムーズなシグモイド様の低下を示す。 定性的に、MLPに関連付けられたモデルは、 Wernicke型失語症と並行して、非応答性の上昇と共に、カテゴリー内意味置換(セマンティック・パラパシス)を継続する一方、注意頭アブレーションは、一次進行失語症(svPPA)のセマンティック変種に類似したセマンティック特異性を失う傾向を生じさせる。 これらの結果から, フィードフォワードと注意経路は機能的に異なる障害モードを有しており, アーキテクチャに依存した障害プロファイルは, 失語症症候群や神経変性疾患に対する新たな計算的視点をシリコモデルとして提供する可能性が示唆された。 特に、Transformer attention-head ablation による早期の精度保持は、アルツハイマー病に臨床症状が出現した1996年の Gomez-Isla et al が報告した40-60% の神経損傷に先立って、症状予備を定性的に並行させ、一方ステンサイLSTM の減少は DeKosky と Scheff (1990) と Terry et al (1991) の症状進行と平行である。

関連論文リスト

• Predicting Neuromodulation Outcome for Parkinson's Disease with Generative Virtual Brain Model [95.41752463487008]
  パーキンソン病は世界中で1千万人以上に影響している。 個人間変異は経験的治療の選択を制限し、非無視的な外科的リスクとコストを増大させる。 我々は、このギャップをトレーニング済みのファインタニングフレームワークで埋めて、静止状態fMRIから直接結果を予測する。
  論文  参考訳（メタデータ） (2026-03-31T02:36:10Z)
• PhysicsAgentABM: Physics-Guided Generative Agent-Based Modeling [47.029742241618635]
  大規模言語モデル(LLM)に基づくマルチエージェントシステムでは,表現的エージェント推論が可能であるが,拡張性は高く,時間段階整合状態遷移シミュレーションではキャリブレーションが不十分である。 本研究では,推論を行動コヒーレントなエージェントクラスタにシフトさせる物理AgentABMを提案する。 公衆衛生、ファイナンス、社会科学における実験は、機械的、神経的、LLMベースラインに対する事象時の精度と校正において一貫した利得を示している。
  論文  参考訳（メタデータ） (2026-02-05T18:59:01Z)
• Sleep-Based Homeostatic Regularization for Stabilizing Spike-Timing-Dependent Plasticity in Recurrent Spiking Neural Networks [14.487258585834374]
  スパイク刺激依存性可塑性(STDP)は、スパイクニューラルネットワーク(SNN)のための生物学的に証明可能な学習メカニズムを提供する 本稿では, シナプス性ホメオスタシス仮説に着想を得たニューロモルフィック正規化手法を提案する。
  論文  参考訳（メタデータ） (2026-01-13T11:17:30Z)
• R-GenIMA: Integrating Neuroimaging and Genetics with Interpretable Multimodal AI for Alzheimer's Disease Progression [63.97617759805451]
  アルツハイマー病の早期発見には、マクロスケールの神経解剖学的変化とマイクロスケールの遺伝的感受性を統合できるモデルが必要である。 本稿では,新しいROIワイド・ビジョン・トランスフォーマと遺伝的プロンプトを結合した多モード多言語モデルR-GenIMAを紹介する。 R-GenIMAは、通常の認知、主観記憶、軽度認知障害、ADの4方向分類において最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2025-12-22T02:54:10Z)
• Conditional Neural ODE for Longitudinal Parkinson's Disease Progression Forecasting [51.906871559732245]
  パーキンソン病(PD)は異質で進化する脳形態計測パターンを示す。 これらの縦方向の軌跡をモデル化することで、機械的な洞察、治療の発展、そして個別化された「デジタルツイン」予測が可能になる。 連続的な個人化されたPD進行予測のための新しいフレームワークであるCNODEを提案する。
  論文  参考訳（メタデータ） (2025-11-06T20:16:33Z)
• Disentangling Neurodegeneration with Brain Age Gap Prediction Models: A Graph Signal Processing Perspective [89.99666725996975]
  脳年齢ギャップ予測(BAGP)モデルは、データから予測される脳年齢と時系列年齢との差を推定する。 本稿では、BAGPの概要と、グラフ信号処理(GSP)の最近の進歩に基づく、このアプリケーションのための原則化されたフレームワークを紹介する。 VNNは強力な理論的基盤と操作的解釈可能性を提供し、脳年齢差予測の堅牢な推定を可能にする。
  論文  参考訳（メタデータ） (2025-10-14T17:44:45Z)
• Uncovering Alzheimer's Disease Progression via SDE-based Spatio-Temporal Graph Deep Learning on Longitudinal Brain Networks [18.54013631358448]
  我々は、将来のアルツハイマー病(AD)の進行を予測するニューラルネットワークフレームワークを開発する。 筆者らの枠組みは, 地域的, 結合的重要性の低い確率を効果的に学習する。 以上の結果から,AD進行の早期・個別化予測における時間グラフ学習の可能性が示唆された。
  論文  参考訳（メタデータ） (2025-09-26T01:02:34Z)
• Modeling Alzheimer's Disease: From Memory Loss to Plaque & Tangles Formation [0.0]
  ホップフィールドモデルを用いて、記憶障害とアルツハイマー病に特徴的な生化学的プロセスの両方を探索する。 記憶喪失, 混乱, 回復時間の遅れなど, 認知症の徴候症状がみられた。 我々の研究は、神経変性疾患におけるシナプスと代謝障害の二重影響を理解するための計算フレームワークを提供する。
  論文  参考訳（メタデータ） (2024-10-10T00:35:10Z)
• Too Big to Fail: Larger Language Models are Disproportionately Resilient to Induction of Dementia-Related Linguistic Anomalies [7.21603206617401]
  より大型のGPT-2モデルでは、マスキングによる劣化の程度を示すために、被マスキング/被マスキングを行うために、不均等に多くの注意ヘッドを必要とすることが示されている。 これらの結果から, トランスフォーマーモデルにおける注意機構は, 認知と脳保護の概念に類似している可能性が示唆された。
  論文  参考訳（メタデータ） (2024-06-05T00:31:50Z)
• Sparse Symmetric Tensor Regression for Functional Connectivity Analysis [13.482969034243581]
  本稿では,自由パラメータの数をさらに減らし,対称性および通常のCP回帰よりも優れた性能が得られるスパース対称テンソル回帰法を提案する。 提案手法をバークレー高齢コーホート研究(BACS)からアルツハイマー病(AD)と正常年齢の研究に適用し,ADにとって重要な2つの関心領域を検出する。
  論文  参考訳（メタデータ） (2020-10-28T02:07:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。