論文の概要: Where Decoder Cosine Similarity Fails for SAE Feature Flow Discovery
- arxiv url: http://arxiv.org/abs/2609.12591v1
- Date: Fri, 11 Sep 2026 08:44:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-15 07:38:31.686434
- Title: Where Decoder Cosine Similarity Fails for SAE Feature Flow Discovery
- Title（参考訳）: SAE特徴フロー発見におけるデコーダのコサイン類似性の欠如
- Abstract要約: 状態機能と更新機能がどのように相互作用し、下流の残留機能を生成するかを検討する。
その結果,特徴フローのアトラスが表現更新機構の診断に有効であることが示唆された。
- 参考スコア（独自算出の注目度）: 0.20415910628419062
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Foundation models are increasingly adapted through fine-tuning, model editing, and alignment procedures while retaining previously acquired capabilities. Understanding the internal computations that support these adaptations is therefore becoming increasingly important for continual model evolution. Sparse autoencoders (SAEs) provide interpretable feature dictionaries for residual-stream activations and sublayer outputs, but it remains unclear how state features and update features interact to produce downstream residual features. In this work, we focus on MLP updates as a first test case. We construct a transition atlas of triples $s_k + u_j \rightarrow t_\ell$, where a residual-state feature and an MLP-update feature jointly predict a target residual feature, and validate candidate triples by ablating the decoded update feature. In a 20M-token Pythia-160M $L_7 \rightarrow L_8$ run, we find 38,125 strong ablation-effect transitions, but 88.0% have both state-target and update-target decoder cosine similarity below 0.7. As a preliminary cross-model check, a run of 20M-token Gemma-3-4B $L_{21} \rightarrow L_{22}$ causally validates only the top 30,000 ranked candidate triples by ablating the decoded update feature, and 53.6% of strong-effect triples have both state-target and update-target decoder cosine similarity below 0.7. The Gemma result is directionally consistent with Pythia, but weaker, since update-target cosine recovers many of the strongest Gemma effects and the run is not a full-atlas causal validation. Ultimately, our results suggest that feature flow atlases can serve as diagnostics of representation-update mechanisms and thereby inform tools for steering model updates. Future work will validate more complex patterns across layers, models, and SAE families.
- Abstract（参考訳）: ファンデーションモデルは、以前取得した機能を維持しながら、微調整、モデル編集、アライメント手順によって、ますます適応している。
したがって、これらの適応をサポートする内部計算を理解することは、連続的なモデル進化にとってますます重要になっている。
スパースオートエンコーダ(SAE)は残差ストリームアクティベーションとサブレイヤ出力のための解釈可能な特徴辞書を提供するが、状態特徴と更新機能が下流残差特徴を生成するためにどのように相互作用するかは定かではない。
この作業では、最初のテストケースとして、MLPのアップデートに焦点を当てます。
ここでは、残差状態特徴とMLP更新特徴が目標残差特徴を共同で予測し、復号された更新特徴を破って候補三重項の検証を行う。
20M-token Pythia-160M $L_7 \rightarrow L_8$ runでは38,125の強いアブレーション効果遷移があるが、88.0%はステートターゲットと更新ターゲットデコーダの両方のコサイン類似度が0.7以下である。
予備的なクロスモデルチェックとして、20M-token Gemma-3-4B $L_{21} \rightarrow L_{22}$の実行は、デコードされた更新機能を非難することで、トップ30,000の候補3つ組のみを慎重に検証する。
Gemmaの結果はPythiaと方向整合性があるが、update-target cosineは多くの強力なGemma効果を回復し、実行はフルアトラス因果検証ではないため、より弱い。
最終的な結果から,特徴フローのアトラスが表現更新機構の診断に役立ち,モデル更新を操縦するためのツールを通知できることが示唆された。
今後の作業では、レイヤ、モデル、SAEファミリ間のより複雑なパターンを検証する予定だ。
関連論文リスト
- A Dominant Diffuse Phase in the Sparse Autoencoder Phase Diagram [0.0]
スパースオートエンコーダ(SAE)は、ニューラルネットワークのアクティベーションから解釈可能な特徴を回復するために、ますます使われるようになっている。
MAIS-O43開放問題では、真の合成辞書の回復が特徴付けの方法を与えるときに特徴付ける制御実験が提案されている。
論文 参考訳（メタデータ） (2026-09-09T15:13:42Z) - SANE: State Anomaly Neutralization for Stable Extreme-Context Delta-Rule Models [53.86918766240095]
Delta-Ruleリカレントモデルは固定サイズの状態を維持しており、$O(1)$の推論メモリが可能であるが、極端なコンテキスト外挿では不安定になる可能性がある。
我々は,チャンク内並列構造を保ちながら,チャンク境界における適応$tanh$圧縮を適用したtextbfState Anomaly Neutralization (SANE)を提案する。
論文 参考訳（メタデータ） (2026-08-23T10:41:07Z) - SpikeWorld: Fast-State Adaptation for Frozen Spiking World Models [0.0]
ヘテロジニアスな感覚予測,セマンティクス,画像テキストバインディング,動作条件付きダイナミクスを共同で訓練した1.45MスパーススパイキングモデルであるSpikeWorldを紹介する。
共同最適化により、アクション次世代MSEは17.10%改善され、マルチモーダル予測、セマンティック精度、画像テキスト検索が改善された。
論文 参考訳（メタデータ） (2026-08-07T18:57:06Z) - Leakage-Robust Evaluation and Data-Scale Sensitivity of Attention-Enhanced Multi-Task Learning for Joint Fault Diagnosis and Remaining Useful Life Estimation [0.0]
マルチタスクディープラーニングモデルは、スライディングウィンドウシーケンスがトレーニングとテストセットにどのように分割されるかによって影響を受ける可能性がある。
ナイーブな分割は、真の20-60%から99.9%に分類精度を低下させる可能性がある。
チャンクベース・リーク監査分割プロトコルを導入し,5種の種子,片方向ANOVA,Tukey HSDテストを用いて全モデルを評価した。
論文 参考訳（メタデータ） (2026-07-17T20:33:36Z) - Perplexity Can Miss SAE Feature Damage Under Quantization [0.16921396880325779]
量子化モデルは、パープレキシティや下流の精度が完全精度のオリジナルに近い場合、許容できると判断される。
凍結スパースオートエンコーダ(SAE)を固定的な測定基準として用いることでこれを検証する。
論文 参考訳（メタデータ） (2026-06-02T01:17:05Z) - Scaling Laws for Agent Harnesses via Effective Feedback Compute [53.68149869349268]
emphEffective Feedback Compute (EFC)は、情報的、有効、非冗長な場合にのみフィードバックを信用し、その後の決定のために保持するトレースレベルのスケーリング座標である。
EFCベースの座標は、生の計算ベースラインよりも失敗率を常に予測する。
論文 参考訳（メタデータ） (2026-05-28T09:45:47Z) - Reading Task Failure Off the Activations: A Sparse-Feature Audit of GPT-2 Small on Indirect Object Identification [0.0]
我々は, GPT-2小火器のスパースオートコーダ(SAE)機能について, 失敗した試験と成功した試験との違いを報告した。
300プロンプトでは、GPT-2小径の精度は79.7%に達し、Bloom (2024)の層8残流SAEリリースの24,576個の特徴のうち146個はホルム補正値の閾値をクリアしている。
17,491, d=+2.93, Neuronpedia label 'cryptographic key' は、プロンプトの転送されたオブジェクトが「キー」である場合を除いて、本質的に静かである。
論文 参考訳（メタデータ） (2026-05-21T16:55:27Z) - ComplexMCP: Evaluation of LLM Agents in Dynamic, Interdependent, and Large-Scale Tool Sandbox [61.862814740220806]
$textbfComplexMCP$は厳格な条件下でエージェントを評価するために設計されたベンチマークである。
Model Context Protocol (MCP)上に構築された$textbfComplexMCP$は300以上の精巧にテストされたツールを提供する。
論文 参考訳（メタデータ） (2026-05-11T16:20:51Z) - Agentic Harness Engineering: Observability-Driven Automatic Evolution of Coding-Agent Harnesses [57.20181537213498]
Agentic Harness Engineering (AHE)は、ハーネスエンジニアリングを自動化するクローズドループである。
AHEは3つの一致した可観測性柱を通じて課題に対処する。
10 AHE lift pass@1 on Terminal-Bench 2 from 69.7% to 77.0%。
SWE-bench-verifiedでは、種子よりも12%少ないトークンで合計成功率を上回り、ターミナルベンチ2では+5.1から+10.1ppのクロスファミリーゲインを得る。
論文 参考訳（メタデータ） (2026-04-28T16:55:02Z) - AlphaApollo: Orchestrating Foundation Models and Professional Tools into a Self-Evolving System for Deep Agentic Reasoning [110.57865233597762]
自己進化型エージェント推論システムであるAlphaApolloについて述べる。
基礎モデル(FM)における2つのボトルネックに対処することを目的としている。
AlphaApolloは、意図的に検証可能な推論を可能にするために、複数のモデルをプロのツールで編成する。
論文 参考訳（メタデータ） (2025-10-05T15:42:24Z) - Gated Attention for Large Language Models: Non-linearity, Sparsity, and Attention-Sink-Free [81.65559031466452]
我々は、ゲーティング強化ソフトマックスアテンションの変種を調べる実験を行った。
SDPA(Scaled Dot-Product Attention)後の頭部特異的シグモイドゲートを簡易に修正することで,性能が向上することがわかった。
論文 参考訳（メタデータ） (2025-05-10T17:15:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。