論文の概要: From Mechanistic to Compositional Interpretability

• arxiv url: http://arxiv.org/abs/2605.08934v1
• Date: Sat, 09 May 2026 13:08:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-12 23:28:49.976969
• Title: From Mechanistic to Compositional Interpretability
• Title（参考訳）: 機械論的から構成的解釈可能性へ
• Abstract要約: 機械的解釈可能性(Mechanistic Interpretability)は、学習した計算構造を人間の理解可能なコンポーネントにリバースエンジニアリングすることで、ニューラルネットワークの振る舞いを説明することを目的としている。 本稿では,構成性および最小記述長の原理に基づくカテゴリー理論フレームワークである構成解釈可能性を紹介する。
• 参考スコア（独自算出の注目度）: 1.4625665070654144
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Mechanistic interpretability aims to explain neural model behaviour by reverse-engineering learned computational structure into human-understandable components. Without a formal framework, however, mechanistic explanations cannot be objectively verified, compared, or composed. We introduce compositional interpretability, a category-theoretic framework grounded in the principles of compositionality and minimum description length. Compositional interpretations are pairs of syntactic and semantic mappings that must commute to enforce consistency between a model's decomposition and its observed behaviour. We deconstruct explanation quality into measures of faithfulness and complexity to cast interpretability as a constrained optimisation problem, and introduce compressive refinement to systematically restructure models into simpler parts without altering their function. Finally, we prove a parsimony criterion under which syntactic compression theoretically guarantees more concise, human-aligned explanations. Our framework situates prominent mechanistic methods as subclasses of refinement, and clarifies why their compressibility heuristics tend to align with human interpretability. Our work provides a measurable, optimisable foundation for automating the discovery and evaluation of mechanistic explanations.
• Abstract（参考訳）: 機械的解釈可能性(Mechanistic Interpretability)は、学習した計算構造を人間の理解可能なコンポーネントにリバースエンジニアリングすることで、ニューラルネットワークの振る舞いを説明することを目的としている。 しかし、正式な枠組みがなければ、機械的説明は客観的に検証、比較、あるいは構成できない。 本稿では,構成性および最小記述長の原理に基づくカテゴリー理論フレームワークである構成解釈可能性を紹介する。 構成的解釈は、モデルの分解と観察された振る舞いの間の一貫性を強制するために通勤しなければならない構文的および意味的マッピングのペアである。 そこで我々は,説明品質を,制約付き最適化問題として解釈可能性を示すための忠実度と複雑さの尺度に分解し,モデルをより単純な部分に体系的に再構成する圧縮改良を導入する。 最後に,構文的圧縮が理論的により簡潔で人間に整合した説明を保証する構文的基準を証明した。 筆者らの枠組みは, 機械的手法を洗練のサブクラスとして位置づけ, 圧縮性ヒューリスティックが人間の解釈可能性に合致する傾向がある理由を明らかにした。 我々の研究は、機械的説明の発見と評価を自動化するための測定可能な、最適化可能な基盤を提供する。

関連論文リスト

• Loss-Complexity Landscape and Model Structure Functions [53.92822954974537]
  我々はコルモゴロフ構造関数 $h_x(alpha)$ を双対化するためのフレームワークを開発する。 情報理論構造と統計力学の数学的類似性を確立する。 構造関数と自由エネルギーの間のルジャンドル・フェンシェル双対性を明確に証明する。
  論文  参考訳（メタデータ） (2025-07-17T21:31:45Z)
• Mechanisms vs. Outcomes: Probing for Syntax Fails to Explain Performance on Targeted Syntactic Evaluations [31.54093034816165]
  大規模言語モデル(LLM)は、テキストの処理と生成において、構文の堅牢な熟達を示す。 モデルの探索精度が下流の構文的性能を確実に予測するかどうかについては、網羅的な研究はまだ確定していない。
  論文  参考訳（メタデータ） (2025-06-20T01:46:50Z)
• How do Transformers Learn Implicit Reasoning? [67.02072851088637]
  制御されたシンボリック環境下でトランスフォーマーをスクラッチからトレーニングすることで、暗黙のマルチホップ推論がどのように現れるかを研究する。 原子三重項によるトレーニングは必要ではなく学習を加速し,第2ホップの一般化は特定の構成構造へのクエリレベル露出に依存する。
  論文  参考訳（メタデータ） (2025-05-29T17:02:49Z)
• A Mathematical Philosophy of Explanations in Mechanistic Interpretability -- The Strange Science Part I.i [0.0]
  我々は、機械的解釈可能性の研究は、モデルを理解するための原則的なアプローチであると主張している。 説明的忠実性(Explainatory Faithfulness)は、説明がモデルにどの程度適合するかを評価する。
  論文  参考訳（メタデータ） (2025-05-01T19:08:34Z)
• Validating Mechanistic Interpretations: An Axiomatic Approach [28.336108192282737]
  我々は,機械的解釈を,分析対象のニューラルネットワークのセマンティクスを概ね合成的に捉えた記述として公式に特徴づける公理の集合を与える。 本研究は, 既知2-SAT問題の解法をトレーニングしたTransformer-based modelを含む新しいケーススタディと同様に, 既知2-SAT問題に対する機械論的解釈の検証にこれらの公理の適用性を示す。
  論文  参考訳（メタデータ） (2024-07-18T15:32:44Z)
• What makes Models Compositional? A Theoretical View: With Supplement [60.284698521569936]
  本稿では,構成関数の一般神経-記号的定義とその構成複雑性について述べる。 既存の汎用および特殊目的のシーケンス処理モデルがこの定義にどのように適合しているかを示し、それらを用いて構成複雑性を分析する。
  論文  参考訳（メタデータ） (2024-05-02T20:10:27Z)
• Multi-Relational Hyperbolic Word Embeddings from Natural Language Definitions [5.763375492057694]
  本稿では、そのような構造を明示的に活用し、定義から単語埋め込みを導出するマルチリレーショナルモデルを提案する。 経験的な分析は、フレームワークが望ましい構造的制約を課すのに役立つことを示している。 実験により、ユークリッド語よりもハイパーボリック語の埋め込みの方が優れていることが示された。
  論文  参考訳（メタデータ） (2023-05-12T08:16:06Z)
• Causal Abstraction: A Theoretical Foundation for Mechanistic Interpretability [30.76910454663951]
  因果抽象化は機械的解釈可能性の理論的基盤を提供する。 我々の貢献は、メカニズム置換から任意のメカニズム変換への因果的抽象化の理論の一般化である。
  論文  参考訳（メタデータ） (2023-01-11T20:42:41Z)
• Sparse Relational Reasoning with Object-Centric Representations [78.83747601814669]
  対象中心表現の操作において,リレーショナルニューラルアーキテクチャによって学習されたソフトルールの構成可能性について検討する。 特に特徴量の増加は,いくつかのモデルの性能を向上し,より単純な関係をもたらすことが判明した。
  論文  参考訳（メタデータ） (2022-07-15T14:57:33Z)
• Compositional Processing Emerges in Neural Networks Solving Math Problems [100.80518350845668]
  人工知能の最近の進歩は、大きなモデルが十分な言語データに基づいて訓練されると、文法構造が表現に現れることを示している。 我々は、この研究を数学的推論の領域にまで拡張し、どのように意味を構成するべきかについての正確な仮説を定式化することができる。 私たちの研究は、ニューラルネットワークがトレーニングデータに暗黙的に構造化された関係について何かを推測できるだけでなく、個々の意味の合成を合成全体へと導くために、この知識を展開できることを示している。
  論文  参考訳（メタデータ） (2021-05-19T07:24:42Z)
• Evaluations and Methods for Explanation through Robustness Analysis [117.7235152610957]
  分析による特徴に基づく説明の新たな評価基準を確立する。 我々は、緩やかに必要であり、予測に十分である新しい説明を得る。 我々は、現在の予測をターゲットクラスに移動させる一連の特徴を抽出するために、説明を拡張します。
  論文  参考訳（メタデータ） (2020-05-31T05:52:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。