論文の概要: Beyond a Bag of Features: Set-Level Instability in Sparse Autoencoders

• arxiv url: http://arxiv.org/abs/2608.11197v1
• Date: Tue, 11 Aug 2026 17:55:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-12 19:14:46.147505
• Title: Beyond a Bag of Features: Set-Level Instability in Sparse Autoencoders
• Title（参考訳）: 機能のバグを超えて:スパースオートエンコーダのセットレベル不安定性
• Abstract要約: 我々は、より解釈可能な類似度尺度として、アクティブスパースオートエンコーダ(SAE)潜在集合をオーバーラップする。 SAEアクティベーションセットは、密埋め込みや残留ストリーム状態よりも、人間のカテゴリ境界やカテゴリ内典型性を忠実に回復しないことがわかった。
• 参考スコア（独自算出の注目度）: 1.4528756508275622
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Shani et al. (2026) show that LLM representations broadly recover human category boundaries, while failing to reflect fine-grained typicality structure. Their analysis uses cosine similarity over dense model representations. We revisit their approach using overlap over active sparse autoencoder (SAE) latent sets as a more interpretable similarity measure. We first verify that this set-level measure is meaningful: SAE latent sets can recover union-like compositional structure in controlled toy models and induce semantically coherent neighborhoods in natural text. Extending the human-concepts analysis to SAE set similarities, we find that SAE activation sets do not recover human category boundaries or within-category typicality more faithfully than dense embeddings or residual-stream states, but instead track model-internal similarity structure. To probe this gap further, we study active latent sets under well-controlled semantic modifications, revealing a substantial mismatch between human judgements of conceptual change and change in the SAE active set. We interpret this as evidence that, outside idealised settings, SAE features do not compose via simple bag-of-features semantics.
• Abstract（参考訳）: Shani et al (2026) は、LLM表現が人間のカテゴリの境界を広く回復する一方で、きめ細かい典型構造を反映しないことを示した。 それらの解析は密度モデル表現よりもコサイン類似性を用いる。 我々は、より解釈可能な類似度尺度として、アクティブスパースオートエンコーダ(SAE)潜在集合をオーバーラップしてアプローチを再検討する。 SAE潜在集合は、制御された玩具モデルにおいてユニオンのような構成構造を復元し、自然文で意味的に整合した近傍を誘導することができる。 人-概念分析をSAEに拡張すると,SAEの活性化セットは,密接な埋め込み状態や残留ストリーム状態よりも,人間のカテゴリ境界やカテゴリ内典型性を回復せず,モデル-内部類似性構造を追跡できることがわかった。 さらにこのギャップを解明するために、よく制御されたセマンティックな修正の下で能動的潜在集合を探索し、人間による概念的変化の判断とSAE能動集合の変化とのかなりのミスマッチを明らかにした。 我々はこれを、外部の理想的な設定において、SAE機能が単純なバッグ・オブ・フューチャーズ・セマンティクスによって構成されないという証拠として解釈する。

関連論文リスト

• From Sparse Features to Trustworthy Proxies: Certifying SAE-Based Interpretability [53.681678236115836]
  我々は,SAEに基づく説明を,基盤となる凍結LMの忠実な見方として扱うことができるかを検討した。 この枠組みは, 4つの測定可能な量を用いて, 基本モデルの予測リスクの上限を導出する。 我々は, GPT-2 Small, Gemma-2B, Llama-3-8B のサンプルサイズにおいて, 境界が非空洞となることを示す。
  論文  参考訳（メタデータ） (2026-06-16T18:28:23Z)
• Structure-aware Prompt Adaptation from Seen to Unseen for Open-Vocabulary Compositional Zero-Shot Learning [86.58227205147546]
  合成ゼロショット学習(OV-CZSL)の目的は、オープン語彙設定において反復対象の合成を認識することである。 本研究では,SPA(Structure-Aware Prompt Adaptation)法を提案する。
  論文  参考訳（メタデータ） (2026-03-04T07:54:28Z)
• Analysis of Variational Sparse Autoencoders [1.675385127117872]
  SAEアーキテクチャに変分手法を組み込むことで,特徴構造や解釈可能性が改善されるかどうかを検討する。 本稿では,変分スパースオートエンコーダ(vSAE)を導入し,決定論的ReLUゲーティングを学習したガウス後部からのサンプリングに置き換える。 以上の結果から,SAEに対する変分法の適用は,機能的構造や解釈可能性の向上には至らないことが示唆された。
  論文  参考訳（メタデータ） (2025-09-26T23:09:56Z)
• A Comparative Analysis of Sparse Autoencoder and Activation Difference in Language Model Steering [0.0]
  我々は、冗長な特徴を排除し、単一の最も関連性の高いSAE潜伏者(top-1)に焦点を当てることを提案する。 推論に関連付けられたSAE潜伏剤の操舵は、ステップバイステップの数学的推論を確実に引き起こすことを示す。 その結果,SAEは数学推論ベンチマークにおいて平均アクティベーション差法より優れており,IF-Eval上での性能と一致していることがわかった。
  論文  参考訳（メタデータ） (2025-09-24T08:31:31Z)
• Dense SAE Latents Are Features, Not Bugs [86.50389855919292]
  言語モデル計算において,高密度潜伏剤が機能的役割を担っていることを示す。 位置追跡,コンテキストバインディング,エントロピー制御,文字固有出力信号,パート・オブ・音声,主成分再構成に関連するクラスを同定する。
  論文  参考訳（メタデータ） (2025-06-18T17:59:35Z)
• Ensembling Sparse Autoencoders [10.81463830315253]
  スパースオートエンコーダ(SAE)は、ニューラルネットワークの活性化を人間の解釈可能な特徴に分解するために用いられる。 我々は,複数のSAEを包括的袋詰めとブースティングによりアンサンブルすることを提案する。 実験の結果,SAEのアンサンブルにより,言語モデルの活性化,特徴の多様性,SAEの安定性が向上することが示された。
  論文  参考訳（メタデータ） (2025-05-21T23:31:21Z)
• Feature Hedging: Correlated Features Break Narrow Sparse Autoencoders [6.610766275883306]
  スパースオートエンコーダ(SAE)は多意味的な活性化を解釈可能な線形方向へ分解する。 SAEがトレーニング対象の「真の特徴」の数よりも狭く、特徴の間に相関関係がある場合、SAEは関連する特徴のコンポーネントをマージする。 特徴ヘッジ(feature hedging)と呼ばれるこの現象は、SAE再建損失によって引き起こされ、SAEがより狭くなるほど深刻である。
  論文  参考訳（メタデータ） (2025-05-16T23:30:17Z)
• Archetypal SAE: Adaptive and Stable Dictionary Learning for Concept Extraction in Large Vision Models [16.894375498353092]
  スパースオートエンコーダ(SAE)は、機械学習の解釈可能性のための強力なフレームワークとして登場した。 既存のSAEは、類似したデータセットでトレーニングされた同一のモデルは、非常に異なる辞書を生成することができるため、深刻な不安定性を示す。 本稿では、辞書の原子を凸殻に拘束するArchitypal SAEについて述べる。
  論文  参考訳（メタデータ） (2025-02-18T14:29:11Z)
• Post-hoc Probabilistic Vision-Language Models [54.05237186168399]
  視覚言語モデル(VLM)は、分類、検索、生成タスクにおいて顕著な成功を収めている。 追加トレーニングを必要としないVLMにおけるポストホック不確実性評価を提案する。 この結果から,大規模モデルの安全性クリティカルな応用が期待できることがわかった。
  論文  参考訳（メタデータ） (2024-12-08T18:16:13Z)
• Beyond Instance Discrimination: Relation-aware Contrastive Self-supervised Learning [75.46664770669949]
  本稿では,関係認識型コントラスト型自己教師型学習(ReCo)をインスタンス関係に統合するために提案する。 当社のReCoは、常に顕著なパフォーマンス改善を実現しています。
  論文  参考訳（メタデータ） (2022-11-02T03:25:28Z)
• Duality-Induced Regularizer for Semantic Matching Knowledge Graph Embeddings [70.390286614242]
  本稿では, 類似のセマンティクスを持つエンティティの埋め込みを効果的に促進する新しい正規化器(duality-induced RegulArizer (DURA))を提案する。 実験により、DURAは、最先端のセマンティックマッチングモデルの性能を一貫して改善することを示した。
  論文  参考訳（メタデータ） (2022-03-24T09:24:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。