Fugu-MT 論文翻訳(概要): The Curse of Multiple Mediators: Hidden Interaction Effects in Activation Patching

論文の概要: The Curse of Multiple Mediators: Hidden Interaction Effects in Activation Patching

arxiv url: http://arxiv.org/abs/2606.27510v1
Date: Thu, 25 Jun 2026 19:52:16 GMT
ステータス: 翻訳完了
システム内更新日: 2026-06-29 18:24:25.309571
Title: The Curse of Multiple Mediators: Hidden Interaction Effects in Activation Patching
Title（参考訳）: マルチメディエーターのカース:活性化パッチングにおける隠れ相互作用効果
Abstract要約: アクティベーションパッチ(Activation patching)は、機械的解釈可能性の主要なツールである。モデル行動の因果責任は、その自然な間接効果を見積もることによって、個々のコンポーネントに比例する。また、コンポーネントの因果効果自体がモデル内の他のコンポーネントの状態に依存するかを測定する相互作用効果(INT)も含む。
参考スコア（独自算出の注目度）: 28.393865595242872
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Activation patching is the primary tool in mechanistic interpretability. It attributes causal responsibility for a model behavior to each of its individual components by estimating its natural indirect effect (NIE). Re-deriving the activation patching estimand from causal mediation analysis, we find that the NIE does not solely capture the causal effect through the specific component. It also contains interaction effects (INT) that measure how much the component's causal effect itself depends on the state of other components in the model. A natural response may be to try to eliminate INT by adjusting the estimator or unit of analysis, but each of these potential remedies has predictable failure modes. We demonstrate these failure modes in the GPT-2 IOI circuit; components whose causal importance is conditional on the state of other components are either invisible or artificially inflated, and INT variance explains the previously documented instability of faithfulness scores. We prove that INT scales with the distance between clean and patched component activations, is negligible when the model is locally affine, and decomposes combinatorially into pairwise and higher-order group interactions. Despite its inevitability, INT is not a nuisance to be eliminated, but rather a diagnostic for interpretability studies. Its individual and group-level magnitude and sign signal when causal conclusions are prompt-dependent, and when greedy NIE-based component ranking will miss mechanisms only discoverable through combinatorial search.
Abstract（参考訳）: アクティベーションパッチ(Activation patching)は、機械的解釈可能性の主要なツールである。モデル行動の因果責任は、その自然な間接効果(NIE)を見積もることによって、個々のコンポーネントに比例する。因果媒介分析からアクティベーションパッチング推定を再度導出した結果,NIEは特定の成分を介して因果効果のみを捉えていないことがわかった。また、コンポーネントの因果効果自体がモデル内の他のコンポーネントの状態に依存するかを測定する相互作用効果(INT)も含む。自然な反応は、推定器や分析単位を調整することでINTを排除しようとするかもしれませんが、これらの潜在的な治療には予測可能な障害モードがあります。これらの故障モードを GPT-2 IOI 回路で実証する; 他のコンポーネントの状態に因果的重要性があるコンポーネントは見えないか人工的に膨らませている。我々は、INTがクリーンなコンポーネントアクティベーションとパッチされたコンポーネントアクティベーションの間隔でスケールし、モデルが局所的なアフィンであるときに無視可能であることを証明し、組合せ的にペアワイズと高階グループインタラクションに分解する。その必然性にもかかわらず、INTは取り除くことの面倒さではなく、解釈可能性の研究のための診断である。因果的結論が即時依存されている場合、その個人レベルとグループレベルの大きさと信号信号は、欲求的NIEベースのコンポーネントランキングが、組み合わせ探索によってのみ発見できるメカニズムを見逃す。

関連論文リスト

Sparse Autoencoders Encode Both Concepts and Functions: The Downstream Geometry of Feature Effects [58.98080129016082]
Feature-Effect Geometry Analysis (FEGA)は、コンテキスト間で同じアクティブなSAE機能を削除した教師なしのフレームワークである。ステアリングの安定な方向を提供することなく,特徴を解釈し,因果的に関連付けることができることを示す。
論文参考訳（メタデータ） (2026-07-27T16:45:08Z)
When Are Neural Interaction Discoveries Real? Identifiability, Recoverability, and a Pre-Fit Diagnostic [0.0]
これは基本的には、観測された入力支援の幾何学によって支配される識別可能性の問題である。表現能力が識別可能でないことを示す。相互作用の回復性はサポート幾何学に依存することを示す。
論文参考訳（メタデータ） (2026-06-07T00:52:43Z)
Disentangled Double Machine Learning for Accurate Causal Effect Estimation [80.07136847623498]
共起バイアスは観測データから因果効果を推定する上で重要な課題である。二重機械学習(Double Machine Learning, DML)は、処理と結果ニュアンス関数を推定することによってこの問題に対処する。 DMLは高次元または有限サンプルのシナリオにおいてバイアス付きおよび不安定な推定をしばしば生成する。本稿では,2つの重要な戦略を統合する新しいアルゴリズムであるDistangled Double Machine Learning (DDML)を提案する。
論文参考訳（メタデータ） (2026-05-24T01:40:43Z)
CUE-R: Beyond the Final Answer in Retrieval-Augmented Generation [0.996038809132083]
CUE-Rは、単発RAGにおいて、エビデンス単位の操作性を測定するためのフレームワークである。 CUE-RはREMOVE、REPLACE、DUPLICATE演算子を介して個々の証拠項目を摂動し、3つのユーティリティ軸に沿って変化を測定する。その結果,回答のみの評価は重要なエビデンス効果を見逃し,介入に基づくユーティリティ分析がRAG評価の実践的補完となることが示唆された。
論文参考訳（メタデータ） (2026-04-07T06:05:08Z)
Causal Discovery with Mixed Latent Confounding via Precision Decomposition [0.0]
微分可能およびスコアベースDAG学習者は、グローバル潜伏効果を因果エッジと誤解釈することができる。我々は,これらの役割を分離したモジュール型高精度パイプラインであるtextscDCL-DECORを提案する。
論文参考訳（メタデータ） (2025-12-31T08:03:41Z)
CausalAffect: Causal Discovery for Facial Affective Understanding [26.904783570786773]
CausalAffectは、顔への影響分析における因果グラフ発見のための最初のフレームワークである。私たちのアプローチでは、共同注釈付きデータセットも手作りの因果前処理も必要ありません。トレーニングされたモデルとソースコードはすべて、受け入れ次第リリースされる。
論文参考訳（メタデータ） (2025-11-29T12:07:33Z)
A new paradigm for global sensitivity analysis [0.0]
グローバル感度分析の現在の理論はスコープに限られており、例えば、分析は出力の分散に限られている。これらの重要な問題は,新しいパラダイムを採用することで,一度に解決できることが示されている。
論文参考訳（メタデータ） (2024-09-10T07:20:51Z)
Nonparametric Identifiability of Causal Representations from Unknown Interventions [63.1354734978244]
本研究では, 因果表現学習, 潜伏因果変数を推定するタスク, およびそれらの変数の混合から因果関係を考察する。我々のゴールは、根底にある真理潜入者とその因果グラフの両方を、介入データから解決不可能なあいまいさの集合まで識別することである。
論文参考訳（メタデータ） (2023-06-01T10:51:58Z)
CausalDialogue: Modeling Utterance-level Causality in Conversations [83.03604651485327]
クラウドソーシングを通じて、CausalDialogueという新しいデータセットをコンパイルし、拡張しました。このデータセットは、有向非巡回グラフ(DAG)構造内に複数の因果効果対を含む。ニューラル会話モデルの訓練における発話レベルにおける因果性の影響を高めるために,Exponential Average Treatment Effect (ExMATE) と呼ばれる因果性強化手法を提案する。
論文参考訳（メタデータ） (2022-12-20T18:31:50Z)
Efficient Causal Inference from Combined Observational and Interventional Data through Causal Reductions [68.6505592770171]
因果効果を推定する際の主な課題の1つである。そこで本研究では,任意の数の高次元潜入共創者を置き換える新たな因果還元法を提案する。パラメータ化縮小モデルを観測データと介入データから共同で推定する学習アルゴリズムを提案する。
論文参考訳（メタデータ） (2021-03-08T14:29:07Z)
Disentangling Observed Causal Effects from Latent Confounders using Method of Moments [67.27068846108047]
我々は、軽度の仮定の下で、識別性と学習可能性に関する保証を提供する。我々は,線形制約付き結合テンソル分解に基づく効率的なアルゴリズムを開発し,スケーラブルで保証可能な解を得る。
論文参考訳（メタデータ） (2021-01-17T07:48:45Z)
CausalVAE: Structured Causal Disentanglement in Variational Autoencoder [52.139696854386976]
変分オートエンコーダ(VAE)の枠組みは、観測から独立した因子をアンタングルするために一般的に用いられる。本稿では, 因果内因性因子を因果内因性因子に変換する因果層を含むVOEベースの新しいフレームワークCausalVAEを提案する。その結果、CausalVAEが学習した因果表現は意味論的に解釈可能であり、DAG(Directed Acyclic Graph)としての因果関係は精度良く同定された。
論文参考訳（メタデータ） (2020-04-18T20:09:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。