論文の概要: MechaTerp-TRACE: A Novel Approach for Component Ablation Analysis in Language Models

• arxiv url: http://arxiv.org/abs/2609.22163v1
• Date: Wed, 26 Aug 2026 18:44:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.751927
• Title: MechaTerp-TRACE: A Novel Approach for Component Ablation Analysis in Language Models
• Title（参考訳）: MechaTerp-TRACE: 言語モデルにおけるコンポーネントアブレーション解析の新しいアプローチ
• Abstract要約: TRACEは、言語モデルの登録された各コンポーネントが、名前付きエンティティの生成をサポートするかを測定する。 5つのファミリーと10から300億のパラメータにまたがる13の命令調整された高密度デコーダモデルに適用する。 最も効果のあるコンポーネントは、プロンプトがどのエンティティを問うにせよ、すべてのモデルにおいて、同じ少数の、位置的に固定されたコンポーネントであることが分かりました。
• 参考スコア（独自算出の注目度）: 5.469672513411921
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Interpretability research on large language models has produced accounts of factual recall in feed-forward layers and of token relationships in self-attention, but little work offers a unified way to compare the causal contribution of different architecture components to a model's output. We introduce MechaTerp (the Mechanistic Interpretability suite) -TRACE (subset for Teacher-forced Registry of Ablated Component Effects), an architecture and study that measures how much each registered component of a language model supports the production of a named entity. TRACE ablates one component at a time and measures the resulting change in the output distribution at a fixed answer token, so component types from whole transformer blocks down to individual neurons and output logits can be compared on a common scale. We apply it to thirteen instruction-tuned dense decoder models spanning five families and one to thirty billion parameters, ablating 49,656 components across 48 medical and 42 general-knowledge prompts. We find that the components carrying the most effect are the same few, positionally fixed components in every model, regardless of which entity a prompt asks about, and that once these are removed, the remaining support is close to evenly spread in eleven of the thirteen models. Apparent localisation of entity knowledge is therefore largely attributable to generic generation machinery, which has direct consequences for methods that assume entity knowledge sits in a findable place, including targeted knowledge editing.
• Abstract（参考訳）: 大規模言語モデルに関する解釈可能性の研究は、フィードフォワード層における事実的リコールと自己注意におけるトークン関係の報告を生み出しているが、異なるアーキテクチャコンポーネントの因果的コントリビューションをモデル出力と比較するための統一的な方法はほとんどない。 MechaTerp (Mechanistic Interpretability suite) -TRACE (Subset for Teacher-forced Registry of Ablated Component Effects)は、言語モデルの各登録コンポーネントが、名前付きエンティティの生成をどの程度サポートするかを測定するアーキテクチャと研究である。 TRACEは一度に1つのコンポーネントを識別し、その結果の出力分布の変化を固定された応答トークンで測定するので、トランスフォーマー全体のコンポーネントタイプを個々のニューロンに絞り込み、出力ロジットを共通のスケールで比較することができる。 5つのファミリーと1から300億のパラメータにまたがる13の命令調整された高密度デコーダモデルに適用し、48の医療と42の一般知識プロンプトに対して49,656のコンポーネントを非難する。 最も効果の高いコンポーネントは、各モデルにおいて、プロンプトがどのエンティティを問うにせよ、同じ少数の固定されたコンポーネントであり、これらが取り除かれると、残りのサポートが13モデルのうち11モデルに均等に広がる。 したがって、エンティティ知識の明瞭なローカライゼーションはジェネリックジェネレーション・ジェネレーション・マシンに大きく寄与し、エンティティ・ナレッジを仮定する手法が、ターゲットとなるナレッジ・編集を含む発見可能な場所に置かれる直接的な結果をもたらす。

関連論文リスト

• Compressed Sensing for Capability Localization in Large Language Models [58.574245030744834]
  大規模言語モデル(LLM)は、数学的推論、コード生成、言語行動など幅広い機能を示す。 トランスフォーマーアーキテクチャでは,多くの機能が注目の小さなサブセットに高度にローカライズされていることを示す。
  論文  参考訳（メタデータ） (2026-02-11T16:06:59Z)
• Componentization: Decomposing Monolithic LLM Responses into Manipulable Semantic Units [0.0]
  大規模言語モデル(LLM)はしばしば、部分で編集が難しいモノリシックなテキストを生成する。 モデル出力をモジュール化して独立に編集可能なユニットに分解するアプローチであるコンポーネント化を提案する。
  論文  参考訳（メタデータ） (2025-09-10T00:15:33Z)
• Sparse Feature Coactivation Reveals Causal Semantic Modules in Large Language Models [14.577426497283412]
  スパースオートエンコーダ特徴のコアクティベーションを用いて,大規模言語モデル(LLM)における意味的コヒーレントな文脈整合性ネットワークコンポーネントを同定する。 これらのコンポーネントを概念として非難することは、モデル出力を予測可能な方法で変化させる一方で、これらのコンポーネントを増幅することで、反事実応答を誘導することを示す。
  論文  参考訳（メタデータ） (2025-06-22T19:01:13Z)
• Mechanistic Unlearning: Robust Knowledge Unlearning and Editing via Mechanistic Localization [10.944365976254442]
  大規模言語モデルにおける知識編集と未学習の方法は、性能を損なうことなく、望ましくない知識の編集や削除を試みている。 異なる手法でローカライズされたトレーニングコンポーネントでは、学習の非学習と編集の堅牢性に大きな違いがある。
  論文  参考訳（メタデータ） (2024-10-16T18:35:02Z)
• Distributional Associations vs In-Context Reasoning: A Study of Feed-forward and Attention Layers [49.80959223722325]
  本研究では,大規模言語モデルにおけるフィードフォワード層とアテンション層との区別について検討する。 フィードフォワード層はビッグラムのような単純な分布関係を学習する傾向があり、注意層は文脈内推論にフォーカスする。
  論文  参考訳（メタデータ） (2024-06-05T08:51:08Z)
• Decomposing and Editing Predictions by Modeling Model Computation [75.37535202884463]
  コンポーネントモデリングというタスクを導入します。 コンポーネントモデリングの目標は、MLモデルの予測をコンポーネントの観点から分解することだ。 コンポーネント属性を推定するスケーラブルなアルゴリズムであるCOARを提案する。
  論文  参考訳（メタデータ） (2024-04-17T16:28:08Z)
• Fine-Tuning Enhances Existing Mechanisms: A Case Study on Entity Tracking [53.66999416757543]
  本研究では,微調整が言語モデルに実装された内部メカニズムに与える影響について検討する。 微調整はモデルの機械的操作を変えるのではなく、強化する。
  論文  参考訳（メタデータ） (2024-02-22T18:59:24Z)
• Part-Based Models Improve Adversarial Robustness [57.699029966800644]
  人間の事前知識とエンドツーエンドの学習を組み合わせることで、ディープニューラルネットワークの堅牢性を向上させることができることを示す。 我々のモデルは、部分分割モデルと小さな分類器を組み合わせて、オブジェクトを同時に部品に分割するようにエンドツーエンドに訓練されている。 実験の結果,これらのモデルによりテクスチャバイアスが低減され,一般的な汚職に対する堅牢性が向上し,相関が急上昇することが示唆された。
  論文  参考訳（メタデータ） (2022-09-15T15:41:47Z)
• Prototypical Representation Learning for Relation Extraction [56.501332067073065]
  本論文では, 遠隔ラベルデータから予測可能, 解釈可能, 堅牢な関係表現を学習することを目的とする。 文脈情報から各関係のプロトタイプを学習し,関係の本質的意味を最善に探求する。 いくつかの関係学習タスクの結果,本モデルが従来の関係モデルを大きく上回っていることがわかった。
  論文  参考訳（メタデータ） (2021-03-22T08:11:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。