論文の概要: Key Path Identification for Resolving Knowledge Conflicts via SAE-based Steering
- arxiv url: http://arxiv.org/abs/2609.08173v1
- Date: Tue, 08 Sep 2026 03:02:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-10 19:44:08.561335
- Title: Key Path Identification for Resolving Knowledge Conflicts via SAE-based Steering
- Title（参考訳）: SAEを用いたステアリングによる知識紛争解決のための鍵経路同定
- Abstract要約: スパースオートエンコーダ(SAE)ベースのステアリングは知識衝突に対処するために広く用いられている。
そこで我々はキーパス同定(KPI)を提案する。
本手法は, 質量ステアリングの最適基準よりも平均18%精度が向上する。
- 参考スコア（独自算出の注目度）: 8.86190406946845
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Sparse autoencoder (SAE)-based steering has been widely used to address knowledge conflicts by guiding LLMs to be more faithful to the contextual knowledge. Existing methods usually perform mass steering, which modifies a large batch of SAE features identified via correlation-based methods. However, due to the inaccurate correlation and the neglected feature interactions, mass steering methods fail to precisely identify the features that play the key roles in steering and introduce a large number of redundant ones, which add noise and weaken the steering effects. Our empirical studies reveal that steering only a small subset of the identified features can achieve comparable or even better performance. Motivated by this finding, we propose Key Path Identification (KPI), a novel method that identifies key steering features characterized by strong causal dependencies with both upstream and downstream features. From these features, KPI constructs key paths and steers through less feature modifications. In this way, KPI advances SAE-based steering from quantity-driven to quality-focused, offering a perspective for more precise and interpretable model editing. Experiments in RAG tasks with knowledge conflicts show that our method improves the accuracy by 18% on average compared to the best baseline of mass steering, effectively filtering redundant features, alleviating side effects and demonstrating the core role of key paths in steering.
- Abstract（参考訳）: スパースオートエンコーダ(SAE)ベースのステアリングは、LLMが文脈的知識に忠実であるように誘導することで知識紛争に対処するために広く用いられている。
既存の手法は通常マスステアリングを行い、相関に基づく手法で同定されたSAE機能の大規模なバッチを変更する。
しかし, 不正確な相関関係と不正確な特徴相互作用のため, マスステアリング法は操舵において重要な役割を担う特徴を正確に識別できず, 多数の冗長なステアリングを導入し, 騒音を生じさせ, 操舵効果を弱める。
私たちの経験的調査によると、特定された機能の小さなサブセットのみをステアリングすることで、同等あるいはそれ以上のパフォーマンスを達成できます。
そこで本研究では,キーパス同定(Key Path Identification, KPI)を提案する。
これらの機能から、KPIは機能修正の少ないキーパスとステアを構築する。
このように、KPIはSAEベースのステアリングを量駆動から品質重視に進化させ、より正確で解釈可能なモデル編集の視点を提供する。
知識衝突を伴うRAGタスクにおける実験により,提案手法は,マスステアリングの最適基準よりも平均18%精度が向上し,冗長な特徴を効果的にフィルタリングし,副作用を軽減し,キーパスの中核的役割を示す。
関連論文リスト
- When is Your LLM Steerable? [56.656180566692946]
アクティベーションステアリングは、推論時に言語モデルの振る舞いを制御するための軽量なアプローチを提供する。
ステアリングを成功させる体制と境界を見つけるには、通常、高価なグリッドサーチが必要である。
生成プロセスの開始時にモデルの内部状態からステアビリティを予測できるかどうかを検討する。
論文 参考訳（メタデータ） (2026-06-10T02:55:34Z) - Don't Lose Focus: Activation Steering via Key-Orthogonal Projections [23.93187817296646]
アクティベーションステアリングはしばしば推論と検索性能を低下させる。
キー直交射影(Key-Orthogonal Projections, SKOP)は、ステアリング効果を排除せずに、有害な注意の引き抜きを制限する。
この結果から,バニラステアリングアプローチが有効でない長文検索環境では,注意再帰を回避することにより,SKOPは頑健な性能を維持することが可能であることが示唆された。
論文 参考訳（メタデータ） (2026-05-07T14:29:18Z) - What Drives Representation Steering? A Mechanistic Case Study on Steering Refusal [53.189667624047416]
異なるステアリング手法が同一層に印加した場合に機能的に交換可能な回路を利用することを示す。
その結果,操舵ベクトルは最大90～99%のスペーサー化が可能であり,ほとんどの性能は維持できることがわかった。
論文 参考訳（メタデータ） (2026-04-09T17:57:14Z) - AMPS: Adaptive Modality Preference Steering via Functional Entropy [66.69992693275061]
本稿では,各モータリティの情報提供量を定量化し,ステアリングに対するサンプル固有の感受性を明らかにするインスタンス認識診断指標を提案する。
実験結果から, インスタンス認識のステアリングは, 従来のステアリングよりもモダリティの嗜好の調整に優れていたことが示唆された。
論文 参考訳（メタデータ） (2026-02-13T02:29:06Z) - Mechanistic Indicators of Steering Effectiveness in Large Language Models [3.635648354808971]
アクティベーションベースのステアリングにより、大規模言語モデルでは、トレーニングをせずに中間的アクティベーションに介入することで、ターゲットとなる振る舞いを表現できる。
広く使われているにもかかわらず、操舵が成功または失敗する際の機械的要因はいまだに理解されていない。
ステアリングの信頼性を内部モデル信号を用いて診断できるかどうかを検討する。
論文 参考訳（メタデータ） (2026-02-02T06:56:22Z) - Does higher interpretability imply better utility? A Pairwise Analysis on Sparse Autoencoders [63.544453925182005]
3つの言語モデルで90のSAEをトレーニングし、解釈可能性と操舵性を評価します。
解析の結果,比較的弱い正の相関(tau b approx 0.298)しか示さず,解釈性は操舵性能の指標として不十分であることが示唆された。
本稿では,特徴量の増幅が次のトークン分布に与える影響を計測するデルタトークン信頼性(Delta Token Confidence)という新しい選択基準を提案する。
論文 参考訳（メタデータ） (2025-10-04T04:14:50Z) - Enhancing LLM Steering through Sparse Autoencoder-Based Vector Refinement [31.282134977964976]
既存のステアリング手法は、行動情報を学習するために大規模なデータセットに依存している。
本稿では,SAAEを利用してステアリングベクトルを意味的に識別・拡張するスパースオートエンコーダ(SAE-RSV)によるステアリングベクトルの精細化について紹介する。
本フレームワークでは、まず、SAEが提供するセマンティクスに基づいてタスク関連機能を取り除き、そのセマンティクスの類似性を通じて、小さなデータセットから欠落したタスク関連機能を強化する。
論文 参考訳（メタデータ） (2025-09-28T10:49:22Z) - KV Cache Steering for Controlling Frozen LLMs [80.50365534625438]
キャッシュステアリングは、言語モデルの暗黙的なステアリングのための軽量な方法である。
キャッシュステアリングを応用して、小さな言語モデルにおける連鎖推論を誘導する。
論文 参考訳（メタデータ） (2025-07-11T17:59:36Z) - Beyond Prompt Engineering: Robust Behavior Control in LLMs via Steering Target Atoms [71.85633762642125]
モデルにおける膨大な数のパラメータは、しばしば高度に絡み合った内部表現をもたらす。
最近の研究は、スパースオートエンコーダ(SAE)を用いて、ステアリングのための高次元空間における知識を歪めている。
本研究では,非絡み合った知識コンポーネントを分離・操作し,安全性を高める手法であるステアリングターゲット原子(STA)を提案する。
論文 参考訳（メタデータ） (2025-05-23T17:59:18Z) - Interpretable Steering of Large Language Models with Feature Guided Activation Additions [4.496738719682736]
本稿では,新しいアクティベーションステアリング法であるFeature Guided Activation Additions (FGAA)を紹介する。
スパースオートエンコーダ(SAE)の潜在空間で操作することにより、FGAAは正確なステアリングベクトルを構成する。
Gemma-2-2B と Gemma-2-9B モデルの評価は、FGAA が既存のステアリング法より優れていることを示す。
論文 参考訳（メタデータ） (2025-01-17T02:55:23Z) - Improving Steering Vectors by Targeting Sparse Autoencoder Features [2.4188584949331053]
SAE-Targeted Steering (SAE-TS) という改良されたステアリング法を開発し、意図しない副作用を最小限に抑えながら、特定のSAE特徴を標的としたステアリングベクトルを求める。
SAE-TSは,様々なタスクで評価すると,CAAとSAEの特徴的ステアリングよりもコヒーレンスとステアリング効果のバランスが良いことを示す。
論文 参考訳（メタデータ） (2024-11-04T15:46:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。