論文の概要: From Circuit Evidence to Mechanistic Theory: An Inductive Logic Approach
- arxiv url: http://arxiv.org/abs/2605.21303v1
- Date: Wed, 20 May 2026 15:33:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-21 19:19:56.753941
- Title: From Circuit Evidence to Mechanistic Theory: An Inductive Logic Approach
- Title（参考訳）: 回路証拠から力学理論へ:帰納論理的アプローチ
- Authors: Nura Aljaafari, Danilo S. Carvalho, Andre Freitas,
- Abstract要約: この研究は、回路解釈を帰納的理論構築として扱うことにより、累積力学科学のための公式な基盤を提供する。
各回路は2つのレベルに特徴付けられる:因果関数署名(CFS)、およびスケール不変構造述語から学習された帰納論理プログラミング(ILP)によって学習されたアーキテクチャ署名$_mathrmarch$である。
- 参考スコア（独自算出の注目度）: 4.3997570047987775
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Mechanistic interpretability produces circuit-level causal analyses of neural network behaviour, but discovered circuits often remain isolated experimental artefacts: there is no shared formal representation for what circuits compute, how they relate, or when two findings provide evidence for the same mechanism. This work provides a formal infrastructure for cumulative mechanistic science by treating circuit interpretation as inductive theory construction. Each circuit is characterised at two levels: a Causal Functional Signature (CFS), which grounds component behaviour in causal attribution evidence and token role profiles, and an architectural signature $τ_{\mathrm{arch}}$, learned by inductive logic programming (ILP) from scale-invariant structural predicates. Together, these constitute a formal coherence layer that makes mechanistic claims explicit, comparable via $θ$-subsumption, and portable across model scales. CFS reveals qualitatively distinct computational strategies across task types, including attention-mediated copying versus MLP-mediated binding. ILP signatures achieve substantially better structural separation than graph kernel and feature-vector baselines, and support principled transfer across model scales and architecture families.
- Abstract（参考訳）: 機械的解釈可能性(Mechanistic Interpretability)は、ニューラルネットワークの動作の回路レベルの因果解析を生成するが、発見された回路はしばしば孤立した実験的な人工物であり、どの回路が何を計算するか、どのように関連づけるか、同じメカニズムの証拠を2つの発見が与える場合、共有された形式的な表現は存在しない。
この研究は、回路解釈を帰納的理論構築として扱うことにより、累積力学科学のための公式な基盤を提供する。
それぞれの回路は、因果帰属証拠とトークンロールプロファイルにコンポーネントの振る舞いを基盤とする因果関数署名(CFS)と、スケール不変構造述語から学習した帰納論理プログラミング(ILP)によって学習されたアーキテクチャ上のシグネチャである。
これらは共に形式的コヒーレンス層を構成し、機械的クレームを明示し、$θ$-subsumption で同等に、モデルスケールで可搬性を持つ。
CFSは、注意を介するコピーとMLPを介するバインディングを含む、タスクタイプ間で定性的に異なる計算戦略を明らかにしている。
ILPシグネチャは、グラフカーネルや特徴ベクトルベースラインよりもはるかに優れた構造分離を実現し、モデルスケールとアーキテクチャファミリ間の原則的転送をサポートする。
関連論文リスト
- From Tensor Networks to Tractable Circuits, and back [4.942278642834429]
実際に魅力的なテンソルネットワークのクラスは、特定の特性を持つ回路のクラスに対応していることを示す。
特に、行列積状態(テンソルトレイン)が非決定論的エッジ値決定図と一致することを証明している。
論文 参考訳（メタデータ） (2026-04-30T18:01:40Z) - Circuit Harmonic Matrices: A Spectral Framework for Quantum Machine Learning [0.03823356975862006]
学習可能な特徴やパラメータの上に構築された1つのアーキテクチャ行列に、幅広い回路群をマッピングする、データに依存しないフレームワークを導入する。
本研究では,非可換ゲート-可観測相互作用によって生成される共振パラメータによる高調波から学習可能な特徴の相関が生じることを示す。
結果として生じるフレームワークは、回路誘起構造を明示し、データ依存構造からアーキテクチャ効果を分離する。
論文 参考訳（メタデータ） (2026-04-05T22:22:56Z) - Dynamics Within Latent Chain-of-Thought: An Empirical Study of Causal Structure [58.89643769707751]
表現空間における潜在連鎖を操作可能な因果過程として研究する。
遅延ステップの予算は、均質な余分な深さよりも、非局所的なルーティングを備えたステージ機能のように振る舞う。
これらの結果は、モード条件と安定性を意識した分析を、潜伏推論システムの解釈と改善のための信頼性の高いツールとして動機付けている。
論文 参考訳（メタデータ） (2026-02-09T15:25:12Z) - Structural Disentanglement in Bilinear MLPs via Architectural Inductive Bias [0.0]
我々は、モデルがトレーニング中に内部表現をどのように構成するかから失敗が発生すると主張している。
線形パラメータ化は勾配流条件下での非混合特性を有することを示す。
ポイントワイズ非線形ネットワークとは異なり、乗法的アーキテクチャは、基礎となる代数構造と整合した真の作用素を復元することができる。
論文 参考訳（メタデータ） (2026-02-05T13:14:01Z) - Explaining the Explainer: Understanding the Inner Workings of Transformer-based Symbolic Regression Models [3.7957452405531265]
PATCHESは,シンボル回帰のためのコンパクトかつ正しい回路を識別する進化的回路探索アルゴリズムである。
PATCHESを用いて28個の回路を分離し,SRトランスの回路レベルの特性化を行う。
論文 参考訳（メタデータ） (2026-02-03T13:27:10Z) - LSRIF: Logic-Structured Reinforcement Learning for Instruction Following [56.517329105764475]
命令論理を明示的にモデル化するロジック構造化学習フレームワーク LSRIF を提案する。
実験の結果、LSRIFは命令追従と一般的な推論に大きな改善をもたらすことが示された。
論文 参考訳（メタデータ） (2026-01-10T05:11:38Z) - How do Transformers Learn Implicit Reasoning? [67.02072851088637]
制御されたシンボリック環境下でトランスフォーマーをスクラッチからトレーニングすることで、暗黙のマルチホップ推論がどのように現れるかを研究する。
原子三重項によるトレーニングは必要ではなく学習を加速し,第2ホップの一般化は特定の構成構造へのクエリレベル露出に依存する。
論文 参考訳（メタデータ） (2025-05-29T17:02:49Z) - Mechanistic Unveiling of Transformer Circuits: Self-Influence as a Key to Model Reasoning [9.795934690403374]
このような課題を解決するために言語モデルでどのような多段階推論機構が使われているのかはいまだ不明である。
回路解析と自己影響関数を用いて、推論過程を通して各トークンの変動の重要性を評価する。
提案手法は,モデルが使用する人間の解釈可能な推論過程を明らかにする。
論文 参考訳（メタデータ） (2025-02-13T07:19:05Z) - Modeling Hierarchical Reasoning Chains by Linking Discourse Units and
Key Phrases for Reading Comprehension [80.99865844249106]
本稿では,論理的推論の基盤として,対話レベルと単語レベルの両方の文脈を扱う総合グラフネットワーク(HGN)を提案する。
具体的には、ノードレベルの関係とタイプレベルの関係は、推論過程におけるブリッジと解釈できるが、階層的な相互作用機構によってモデル化される。
論文 参考訳（メタデータ） (2023-06-21T07:34:27Z) - Query Structure Modeling for Inductive Logical Reasoning Over Knowledge
Graphs [67.043747188954]
KGに対する帰納的論理的推論のための構造モデル付きテキスト符号化フレームワークを提案する。
線形化されたクエリ構造とエンティティを、事前訓練された言語モデルを使ってエンコードして、回答を見つける。
2つの帰納的論理推論データセットと3つの帰納的推論データセットについて実験を行った。
論文 参考訳（メタデータ） (2023-05-23T01:25:29Z) - Counterfactual Intervention Feature Transfer for Visible-Infrared Person
Re-identification [69.45543438974963]
視覚赤外人物再識別タスク(VI-ReID)におけるグラフベースの手法は,2つの問題により,悪い一般化に悩まされている。
十分に訓練された入力特徴は、グラフトポロジーの学習を弱め、推論過程において十分に一般化されない。
本稿では,これらの問題に対処するためのCIFT法を提案する。
論文 参考訳（メタデータ） (2022-08-01T16:15:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。