論文の概要: Decodability is Not Causality: Dissociating Probe Readouts from Behavioral Drivers via SAE Decomposition

• arxiv url: http://arxiv.org/abs/2609.18080v1
• Date: Wed, 16 Sep 2026 03:35:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-20 08:55:53.625709
• Title: Decodability is Not Causality: Dissociating Probe Readouts from Behavioral Drivers via SAE Decomposition
• Title（参考訳）: 因果性(Deodability)は因果性ではない:SAE分解による行動ドライバからのプローブ読み出しの解離
• Abstract要約: 線形プローブは、言語モデルのアクティベーションから真理性などの安全関連概念をデコードすることができる。 しかし、プローブの精度は、プローブの重み付けがモデル動作を因果的に駆動する特徴ではなく、陰極性のみを示す可能性がある。 本稿では,True/Falseプローブをスパースオートエンコーダ(SAE)機能に分解する機能レベルの診断手法を提案する。
• 参考スコア（独自算出の注目度）: 3.5923748886318183
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Linear probes can decode safety-relevant concepts such as truthfulness from language-model activations, but probe accuracy may show only decodability, not that the features the probe weights causally drive model behavior. We demonstrate that this gap cannot be closed from the geometry of probe weights alone: the features geometrically aligned with probe direction need not be the ones the model uses, so causal relevance requires intervention. We introduce a feature-level diagnostic that decomposes a deployed True/False probe into sparse-autoencoder (SAE) features, ranks those features by both probe alignment and by gradient sensitivity of the model's behavior, and ablates the resulting shared, probe-only, and random feature sets under a coherence gate. On the truth probe of Buerger et al. (2024) (TTPD), applied in the instructed truth/deception setting of Long et al. (2025) for Gemma2-9B-Instruct, the two rankings overlap only weakly (about 12%, Spearman rho = 0.10), and ablation dissociates them sharply: features the probe shares with the model flip the output far more (up to 27%) than equally sized probe-only (6%) or random (1%) features at full coherence, while probe-only features instead perturb the probe's own readout. The dissociation holds across five seeds and a held-out split, and an activation-aware selection of features flips behavior nearly three times as often as the probe's geometric top features (17.6% vs. 6.1%). In this setting, therefore, the geometric projection of a probe's weight vector alone does not identify the features the model causally uses; however, combining probe information with feature activation statistics recovers substantially more behaviorally causal features, and coherence-gated SAE intervention is needed to separate them from probe readouts.
• Abstract（参考訳）: 線形プローブは、言語モデルアクティベーションから真理性などの安全関連概念をデコードすることができるが、プローブの精度は、プローブの重み付けがモデル動作を因果的に駆動する特徴を示すものではない。 探索方向と幾何学的に整合した特徴は、モデルが使用するものであってはならないので、因果関係性は介入を必要とする。 本稿では、True/Falseプローブをスパースオートコーダ(SAE)機能に分解し、それらの特徴をプローブアライメントとモデル動作の勾配感度の両方でランク付けし、コヒーレンスゲートの下で結果の共有、プローブオンリー、ランダムな特徴セットをブレイトする特徴レベル診断を提案する。 Gemma2-9B-InstructのLong et al (2025) の真理/偽設定に適用されたBuerger et al (TTPD) (TTPD) の真理プローブでは、2つのランクは弱み(約12%、Spearman rho = 0.10)のみ重なり、アブレーションはそれらを急激に解離させる。 解離は5つの種にまたがって保持され、特徴の活性化を意識した選択は、探査機の幾何学的トップの特徴(17.6%対6.1%)の3倍近い頻度で振る舞う。 この設定では、プローブの重みベクトルのみの幾何学的投影は、モデルが因果的に使用する特徴を識別しないが、特徴アクティベーション統計とプローブ情報を組み合わせることで、より行動学的因果的特徴が回復し、プローブ読み出しから分離するためにコヒーレンスゲートSAE介入が必要である。

関連論文リスト

• How Do Linear Probes Emerge? A Circuit-Tracing Framework with Concept-Targeted Attribution [49.01642339390897]
  CTA(Concept-Targeted Attribution)は、線形プローブ方向に関する属性グラフを訓練する。 CTAは、なぜ内部概念表現がプロンプトに現れるのかを説明するプローブ固有の回路を生成する。
  論文  参考訳（メタデータ） (2026-08-27T08:12:49Z)
• From Geometric Recovery to Causal Validation: A Reproducible Audit of Sparse Autoencoder Features, from Superposition Geometry to Causal Inertness [0.0]
  スパースオートエンコーダ(SAE)は、重畳された神経表現を解釈可能な特徴に分解する標準である。 これはデコーダ・ジオメトリーアライメントとエンコーダ・アクティベーションの2つの異なるクレームを示す。 本手法は,決定論的パイプラインを持つモデル非依存の楽器であるsae-causal-auditとしてパッケージ化する。
  論文  参考訳（メタデータ） (2026-07-13T21:18:52Z)
• Pressure-Testing Deception Probes in LLMs: Scaling, Robustness, and the Geometry of Deceptive Representations [5.218766876318545]
  LLMのアクティベーションをトレーニングした線形プローブは、騙し検出指標としてますます提案されているが、AUROCは分布シフトの下で崩壊しながらクリーンなベンチマークで0.96を超えることを報告している。 本稿では, Gemma 3 モデルファミリ(1B-27B パラメータ)における圧力-プローブ-ベースの測定値について, 系統的に検討する。 1) 単線方向, (2) 多次元部分空間, (3) 凸円錐殻, (4) エントロピープロキシの4つの仮説を検証した。
  論文  参考訳（メタデータ） (2026-05-27T04:51:55Z)
• Reading Calibrated Uncertainty from Language Model Trajectories [46.663987199083245]
  モデルの内部アクティベーションを調査する手法は、生の隠れた状態を不透明なスナップショットにフィードし、表現が形成される層回りの軌跡を暗黙的に残す。 我々は11のスケール不変な幾何学的特徴を抽出し、層ごとの更新の累積経路をトレースし、それらをスパース線形プローブに供給する。 このプローブは、最大21のAURCポイントでベースラインスケーリングを行い、選択的な棄権下でMPPより優れる。
  論文  参考訳（メタデータ） (2026-05-19T19:24:29Z)
• Deep Minds and Shallow Probes [6.689948326302292]
  表現にすでに存在する構造を明らかにすることを意図したプローブファミリーは、関連する表現対称性の下で安定であるべきである。 クロスモデルプローブ転送の自然な対象は、全隠れ状態ではなく、プローブファミリーに見えない表現のモジュラー方向が共有プローブ可視の商であることを示す。
  論文  参考訳（メタデータ） (2026-05-12T02:59:44Z)
• Probe-Geometry Alignment: Erasing the Cross-Sequence Memorization Signature Below Chance [0.03580891736370874]
  最近の攻撃は、大規模言語モデルの振る舞いの学習が、敵対的プローブによって内部の痕跡を復元可能であることを示している。 我々は,この保留地を特徴付けるとともに,測定可能な機能コストを伴わずに,外科的に除去できることを示す。
  論文  参考訳（メタデータ） (2026-05-03T03:44:15Z)
• Linear Probe Accuracy Scales with Model Size and Benefits from Multi-Layer Ensembling [0.0]
  線形プローブは、言語モデルが「知っている」出力をいつ生成するかを検出する。 複数層からのプローブをアンサンブルに結合することで,単層プローブが故障しても高い性能が得られることを示す。
  論文  参考訳（メタデータ） (2026-04-15T01:21:52Z)
• Function-Space Decoupled Diffusion for Forward and Inverse Modeling in Carbon Capture and Storage [65.51149575007149]
  本稿では,Fun-DDPSについて述べる。Fun-DDPSは,関数空間拡散モデルと微分可能なニューラル演算子サロゲートを結合した生成フレームワークである。 Fun-DDPSは、ジョイントステートベースラインで観察される高周波アーティファクトから、物理的に一貫した実現をもたらす。
  論文  参考訳（メタデータ） (2026-02-12T18:58:12Z)
• Probing for Arithmetic Errors in Language Models [86.8227317662622]
  言語モデルの内部アクティベーションは、算術誤差を検出するために使用できる。 単純なプローブはモデルが予測した出力と正解の両方を隠蔽状態から正確に復号できることを示す。 モデル精度を90%以上の精度で予測する軽量エラー検出器を訓練する。
  論文  参考訳（メタデータ） (2025-07-16T16:27:50Z)
• Meta Learning Low Rank Covariance Factors for Energy-Based Deterministic Uncertainty [58.144520501201995]
  ニューラルネットワーク層のBi-Lipschitz正規化は、各レイヤの特徴空間におけるデータインスタンス間の相対距離を保存する。 注意セットエンコーダを用いて,タスク固有の共分散行列を効率的に構築するために,対角的,対角的,低ランクな要素のメタ学習を提案する。 また,最終的な予測分布を達成するために,スケールしたエネルギーを利用する推論手法を提案する。
  論文  参考訳（メタデータ） (2021-10-12T22:04:19Z)
• Analytic Signal Phase in $N-D$ by Linear Symmetry Tensor--fingerprint modeling [69.35569554213679]
  解析信号位相とその勾配は2-D$以上の不連続性を持つことを示す。 この欠点は深刻なアーティファクトをもたらす可能性があるが、問題は1-D $シグナルには存在しない。 本稿では,複数のGaborフィルタに頼って線形シンメトリー位相を用いることを提案する。
  論文  参考訳（メタデータ） (2020-05-16T21:17:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。