論文の概要: From Activation to Intervention: Interpreting Sparse Visual Features through Reconstruction

• arxiv url: http://arxiv.org/abs/2611.05522v1
• Date: Tue, 03 Nov 2026 19:17:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-06 03:25:57.823111
• Title: From Activation to Intervention: Interpreting Sparse Visual Features through Reconstruction
• Title（参考訳）: 活性化から介入へ:再構成による疎視的特徴の解釈
• Abstract要約: Reconstructive SAE Intervention (RecSAEI, Reconstructive SAE Intervention, RecSAEI) を提案する。 SAEデコーダの方向に沿った表現に介入し、視覚的出力を再構築することにより、特徴の意味の直接的証拠を提供する。 本研究は、ニューラルネットワークの説明に欠かせない補完信号として、介入再建を提唱する。
• 参考スコア（独自算出の注目度）: 45.08377517866163
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Sparse autoencoders (SAEs) decompose visual representations into individual features, offering a promising basis for explaining model behavior. Interpreting these features typically relies on images or pixel regions that most strongly activate them. However, this evidence becomes ambiguous when multiple features with different semantics frequently activate in the same locations, such as texture and color in the same patterns. We propose Reconstructive SAE Intervention (RecSAEI), a framework that shifts feature explanation from passive observation to active visual reconstruction. By intervening on representations along SAE decoder directions and reconstructing the visual output, we provide direct evidence of a feature's semantic meaning. We demonstrate that our method successfully disambiguates feature meanings across multiple datasets and vision encoders. Furthermore, our framework grounds [CLS] SAE interventions in a sparse set of patch SAE decoder directions. Beyond stable target response, this attribution also exposes the compositional relationship between elementary visual patterns and high-level semantics. Our results advocate for intervention reconstruction as an essential complementary signal for explaining neural networks.
• Abstract（参考訳）: スパースオートエンコーダ(SAE)は、視覚的表現を個々の特徴に分解し、モデル動作を説明するための有望な基盤を提供する。 これらの特徴を解釈するには、画像やピクセル領域に最も強く依存する。 しかし、異なる意味を持つ複数の特徴が同じパターンのテクスチャや色など、同じ場所で頻繁に活性化されると、この証拠は曖昧になる。 Reconstructive SAE Intervention (RecSAEI, Reconstructive SAE Intervention, RecSAEI) を提案する。 SAEデコーダの方向に沿った表現に介入し、視覚的出力を再構築することにより、特徴の意味の直接的証拠を提供する。 提案手法は,複数のデータセットや視覚エンコーダにまたがる特徴的意味の曖昧さを実証する。 さらに,本フレームワークでは,[CLS] SAE の介入を,パッチ SAE デコーダ方向のスパースセットで処理する。 安定なターゲット応答以外にも、この属性はまた、基本的な視覚パターンと高レベルの意味論の間の構成的関係を明らかにする。 本研究は、ニューラルネットワークの説明に欠かせない補完信号として、介入再建を提唱する。

関連論文リスト

• MoETok: Sparse Expert Routing for 1D Visual Tokenizers [52.30634907797462]
  MoETokは1Dビジュアルトークンライザで、トークンをわずかにアクティベートされた専門家を通してルーティングする。 ImageNetでは、強力な再構成とセマンティック表現と最先端のクラス条件生成を組み合わせる。
  論文  参考訳（メタデータ） (2026-10-30T16:37:55Z)
• SAEVerbalizer: Generating Explanations for Sparse Autoencoder Features via Representation Verbalization [45.84399159937069]
  SAEVerbalizerは,SAAEデコーダの方向を大言語モデルの表現に注入するフレームワークである。 その結果得られた動詞化子は、SAEの機能をデコーダの方向から直接説明し、両方の制限に対処する。 実験により、学習された動詞化能力は、見つからない特徴に一般化し、個別に訓練されたSAE辞書をまたいで転送し、軽量なアダプタで異なるLSMからSAE機能に拡張することを示した。
  論文  参考訳（メタデータ） (2026-08-13T17:54:11Z)
• Learning Structured Visual Compositional Representations for Weakly Supervised Referring Expression Comprehension [73.15757782297459]
  Referring Expression comprehensionは、自然言語で記述された画像中のオブジェクトをローカライズすることを目的としている。 既存のアプローチは主にアンカーレベルの視覚表現で動作する。 弱教師付きRECのための構造化視覚構成表現学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-07-06T03:43:32Z)
• SAVE: Sparse Autoencoder-Driven Visual Information Enhancement for Mitigating Object Hallucination [48.601385640941935]
  Sparse Autoencoderの潜在機能に沿ってモデルを操ることで幻覚を緩和するフレームワークであるSAVEを提案する。 バイナリオブジェクトプレゼンス質問回答プローブは、モデルの視覚情報処理を最も示唆するSAEの特徴を識別する。 SAVEはシンプルな設計で、標準的なベンチマークで最先端のトレーニングフリーメソッドより優れている。
  論文  参考訳（メタデータ） (2025-12-08T17:20:07Z)
• Sparse Autoencoders Bridge The Deep Learning Model and The Brain [18.058358411706052]
  SAE-BrainMapは、ディープラーニングの視覚モデル表現とボクセルレベルのfMRI応答を一致させる新しいフレームワークである。 ViT-B/16$_CLIP$は、初期層で高レベルなセマンティック情報を生成するために低レベルな情報を利用する傾向がある。 我々の結果は、ディープニューラルネットワークと人間の視覚野の間に直接、下流でタスクのない橋を架け、モデル解釈可能性に関する新たな洞察を提供する。
  論文  参考訳（メタデータ） (2025-06-10T06:35:14Z)
• Sparsification and Reconstruction from the Perspective of Representation Geometry [10.834177456685538]
  スパースオートエンコーダ (SAE) は機械的解釈可能性において主要なツールである。 本研究は,表現幾何学の観点から,空間の原理を説明する。 具体的には、表現を理解し、表現の制約を取り入れることの必要性を強調している。
  論文  参考訳（メタデータ） (2025-05-28T15:54:33Z)
• "Principal Components" Enable A New Language of Images [79.45806370905775]
  証明可能なPCAのような構造を潜在トークン空間に組み込む新しい視覚トークン化フレームワークを導入する。 提案手法は、最先端の再構築性能を実現し、人間の視覚システムとの整合性を向上する。
  論文  参考訳（メタデータ） (2025-03-11T17:59:41Z)
• Cross-modal Representation Learning for Zero-shot Action Recognition [67.57406812235767]
  我々は、ゼロショット動作認識(ZSAR)のためのビデオデータとテキストラベルを共同で符号化するクロスモーダルトランスフォーマーベースのフレームワークを提案する。 我々のモデルは概念的に新しいパイプラインを使用し、視覚的表現と視覚的意味的関連をエンドツーエンドで学習する。 実験結果から,本モデルはZSARの芸術的状況に大きく改善され,UCF101,HMDB51,ActivityNetベンチマークデータセット上でトップ1の精度が向上した。
  論文  参考訳（メタデータ） (2022-05-03T17:39:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。