論文の概要: Perturbation-based Regional Interpretability through Subtraction Mapping (PRISM): naming-error dissociations in language models and post-stroke aphasia

• arxiv url: http://arxiv.org/abs/2608.12717v1
• Date: Thu, 13 Aug 2026 02:02:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-14 18:29:38.364622
• Title: Perturbation-based Regional Interpretability through Subtraction Mapping (PRISM): naming-error dissociations in language models and post-stroke aphasia
• Title（参考訳）: サブトラクションマッピング(PRISM)による摂動に基づく地域解釈 : 言語モデルと後失語症における命名・誤り解離
• Abstract要約: サブトラクション分析は人間のニューロイメージングの標準的な枠組みである。 PRISM (Perturbation-based Regional Interpretability through Subtraction Mapping) の開発 PRISMは、トランスフォーマー言語モデルにおける機能特殊化の主張を、ファリザブルで空間的に解決したテストを提供する。
• 参考スコア（独自算出の注目度）: 6.867794233852404
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Mechanistic interpretability of large language models lacks spatially resolved, falsifiable tools for testing whether internal components are specialized for distinct cognitive operations. We adapt subtraction analysis, the standard framework of human neuroimaging, from biological brains to perturbed transformers, and apply the same logic to both substrates in parallel. Building on the Brain-LLM Unified Model (BLUM), which showed that layer-perturbed LLaVA-1.6-Vicuna-13B error profiles match the lesion patterns of aphasic patients, we develop PRISM (Perturbation-based Regional Interpretability through Subtraction Mapping). PRISM maps the seven clinical Philadelphia Naming Test categories, subtracts error classes pairwise, and treats each perturbation seed as a subject in a group analysis with threshold-free cluster enhancement along the layer axis. We run a structurally matched analysis on 213 chronic post-stroke aphasia patients using correlation-difference lesion-symptom mapping, and replicate both sides on held-out splits. The designs match in subject dimension (seeds, patients), spatial dimension (layers, atlas-parcellated cortex) and thresholding, but the contrast operator differs: a within-subject error-proportion difference for the LLM, a between-subject correlation difference for the cortex. Both substrates recover a robust phonemic-favoring dissociation, a deep layer cluster and a frontal-perisylvian cortical cluster, both replicating; the semantic-favoring direction is a consistently signed but non-significant trend on both. PRISM thus gives a falsifiable, spatially resolved test of functional-specialization claims in transformer language models. A confirmatory ROI-level intervention (PRISM Stage 3) licensing the strongest causal-mechanism claim is left to subsequent work.
• Abstract（参考訳）: 大規模言語モデルの機械的解釈可能性には、内部コンポーネントが認知操作に特化しているかどうかをテストするための、空間的に解決された、偽装可能なツールが欠けている。 生体脳から摂動トランスフォーマーまで、人間の神経画像の標準的な枠組みであるサブトラクション分析を適用し、同じ論理を両方の基質に並列に適用する。 脳-LLM統一モデル (BLUM) を用いて, 失語患者の病変パターンと階層構造LLaVA-1.6-Vicuna-13B誤差プロファイルが一致していることを示し, PRISM (Perturbation-based Regional Interpretability through Subtraction Mapping) を開発した。 PRISMは、フィラデルフィア・ナミング試験の7つの臨床カテゴリーをマッピングし、同時にエラークラスを抽出し、各摂動種子を層軸に沿った閾値のないクラスター増強を伴う群解析において対象として扱う。 213例の慢性期後失語症例に対して,相関差病変-症状マッピングを用いて構造的整合性解析を行い,両側面を保留分割で再現した。 被験者次元(種子, 患者), 空間次元(層, アトラス・パーセル化大脳皮質), しきい値に一致するが, コントラスト演算子は異なる。 どちらの基質も、頑健な音韻性解離、深層クラスタ、前頭側腹側皮質クラスタを再現し、セマンティック・フェーリングの方向は一貫して署名されているが、重要でない傾向である。 したがって、PRISMはトランスフォーマー言語モデルにおける機能特殊化の主張を、ファリザブルで空間的に解決したテストを提供する。 確認ROIレベルの介入(PRISM Stage 3)は、最も強力な因果メカニズムの主張をライセンスする。

関連論文リスト

• CofactVLA: Deconfounding Vision-Language-Action Models via Counterfactual Intervention [48.20065816234311]
  VLA(Vision-Language-Action)モデルはロボット操作に大きな進歩をもたらしたが、ビジョンオーバーライド現象に苦戦している。 本稿では,新たな因果介入フレームワークCofactVLAを提案する。 我々は、CofactVLAが様々なシミュレーションベンチマークにまたがって新しい最先端のベンチマークを確立していることを示す。
  論文  参考訳（メタデータ） (2026-08-05T02:58:41Z)
• Look-Closer-Then-Diagnose: Confidence-Aware Ultrasound VQA via Active Zooming [41.40761036883243]
  VLM(Vision-Language Models)は、医学的な視覚的質問応答がかなり進歩しているが、超音波におけるその性能は依然として最適である。 本稿では,ソノグラフィーの認知ワークフローを考慮したフレームワークを提案する。 まず,構造的Zoom-then-Diagnoseパラダイムを導入する。
  論文  参考訳（メタデータ） (2026-05-20T19:06:34Z)
• Stroke Lesions as a Rosetta Stone for Language Model Interpretability [6.528508321422611]
  本稿では、大規模な言語モデルを評価するための外部参照構造として、Brain-LLM Unified Model(BLUM)を提案する。 慢性期脳卒中後失語患者のデータを用いて,行動的エラープロファイルから脳損傷位置を予測する症状・症状・症状モデルを構築した。 BLUMのエラープロファイルは、偶然に一致したヒトの実際の病変に対応するような、人間のエラープロファイルと十分に類似していた。
  論文  参考訳（メタデータ） (2026-02-03T23:22:37Z)
• Component-Level Lesioning of Language Models Reveals Clinically Aligned Aphasia Phenotypes [40.41503864764337]
  大規模言語モデルにおける機能的コンポーネントを選択的に摂動することで失語をシミュレートするコンポーネントレベルフレームワークを提案する。 我々のパイプラインはBrocaとWernickeの失語に対するサブタイプリンクコンポーネントを特定し、トップkサブタイプリンクコンポーネントを段階的に摂動させることにより、段階的障害を誘発する。 アーキテクチャや障害戦略を越えて、サブタイプターゲットの摂動は、サイズにマッチしたランダムな摂動よりも、より体系的で失語症のような回帰をもたらす。
  論文  参考訳（メタデータ） (2026-01-27T15:47:22Z)
• PTSM: Physiology-aware and Task-invariant Spatio-temporal Modeling for Cross-Subject EEG Decoding [29.645617313721186]
  クロスオブジェクト脳波(EEG)デコーディングは、脳-コンピュータインターフェース(BCI)研究における根本的な課題である。 本稿では,未確認領域にまたがる脳波デコーディングのための新しいフレームワークPTSMを提案する。 PTSMは、パーソナライズされた時間的パターンと共有された時間的パターンを独立して学習するデュアルブランチ機構を採用している。
  論文  参考訳（メタデータ） (2025-08-15T09:51:14Z)
• Signal in the Noise: Polysemantic Interference Transfers and Predicts Cross-Model Influence [46.548276232795466]
  多意味性は言語モデルに広く浸透しており、解釈とモデル行動制御の大きな課題である。 2つの小さなモデルの多意味的トポロジをマッピングし、意味的に無関係だがモデル内の干渉を示す特徴対を同定する。 我々は4つのloci(prompt, token, feature, neuron)に介入し、次のトーケン予測分布における変化を計測し、これらのモデルに体系的な脆弱性を露呈する多意味構造を明らかにする。
  論文  参考訳（メタデータ） (2025-05-16T18:20:42Z)
• Interpretable Spatio-Temporal Embedding for Brain Structural-Effective Network with Ordinary Differential Equation [56.34634121544929]
  本研究では,まず動的因果モデルを用いて脳効果ネットワークを構築する。 次に、STE-ODE(Spatio-Temporal Embedding ODE)と呼ばれる解釈可能なグラフ学習フレームワークを導入する。 このフレームワークは、構造的および効果的なネットワーク間の動的相互作用を捉えることを目的とした、特異的に設計されたノード埋め込み層を含んでいる。
  論文  参考訳（メタデータ） (2024-05-21T20:37:07Z)
• Deep Variational Lesion-Deficit Mapping [0.3914676152740142]
  本稿では,病変欠損モデル比較のための包括的枠組みを提案する。 また,本モデルでは,すべてのシミュレーションシナリオにおいて,確立された手法よりもかなり優れていることを示す。 我々の分析は、このアプローチの広く採用されていることを正当化する。
  論文  参考訳（メタデータ） (2023-05-27T13:49:35Z)
• A comprehensive comparative evaluation and analysis of Distributional Semantic Models [61.41800660636555]
  我々は、静的DSMによって生成されたり、BERTによって生成された文脈化されたベクトルを平均化して得られるような、型分布ベクトルの包括的評価を行う。 その結果、予測ベースモデルの優越性は現実よりも明らかであり、ユビキタスではないことが明らかとなった。 我々は認知神経科学からRepresentational similarity Analysis(RSA)の方法論を借りて、分布モデルによって生成された意味空間を検査する。
  論文  参考訳（メタデータ） (2021-05-20T15:18:06Z)
• Going Beyond Saliency Maps: Training Deep Models to Interpret Deep Models [16.218680291606628]
  解釈性は、複雑な深層学習モデルを用いて脳障害の理解を進める上で重要な要素である。 疾患のパターンを注入または除去するために、与えられたイメージを歪めることができるシミュレーターネットワークを訓練することを提案する。 本研究は,アルツハイマー病とアルコール使用障害の影響を可視化するために,合成データセットと2つのニューロイメージングデータセットで訓練された分類器の解釈に応用する。
  論文  参考訳（メタデータ） (2021-02-16T15:57:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。