論文の概要: Disentangling Steering Vectors

• arxiv url: http://arxiv.org/abs/2609.07037v1
• Date: Mon, 07 Sep 2026 04:45:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-10 19:44:08.363466
• Title: Disentangling Steering Vectors
• Title（参考訳）: 異方性ステアリングベクトル
• Abstract要約: 合成方向から個人的・意味論的に一貫した特徴を明示的に分離する枠組みを提案する。 具体的には、正と負のアクティベーションをペアにして、それらの差を利用してインスタンスレベルのステアリングベクトルの集合を生成する。 提案手法は, ステアリング効果が相互に区別可能な, 意味論的に一貫した基底ベクトルの集合を導出することを示す。
• 参考スコア（独自算出の注目度）: 13.671243729016568
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Activation steering has emerged as a lightweight, inference-time approach to control the behavior of Large Language Models (LLMs). However, traditional steering vectors used to intervene in LLMs' activations, such as those derived from the difference-in-means method, tend to entangle multiple semantic and stylistic concepts into a single composite direction, leading to unpredictable steering effects. Our core objective is to disentangle this composite direction into its constituent concepts. To this end, we propose Steering Vector Dissection, a framework to explicitly isolate individual and semantically consistent features from these composite directions. Specifically, we pair positive and negative activations and take their differences to generate a set of instance-level steering vectors, and train a dedicated Sparse Autoencoder (SAE) directly on them. Quantitative evaluations across two datasets, two models, and two intervention depths show that our method yields a set of semantically consistent basis vectors whose steering effects are mutually distinguishable. Furthermore, we show that this disentanglement enables precise control over model behaviors.
• Abstract（参考訳）: アクティベーションステアリングは、LLM(Large Language Models)の振る舞いを制御する軽量な推論時間アプローチとして登場した。 しかし、従来のステアリングベクトルは、例えば差分法から導かれるようなLSMの活性化に介入するために用いられており、複数の意味論的およびスタイリスティックな概念を単一の合成方向に絡み合わせる傾向があり、予測不可能なステアリング効果をもたらす。 私たちの中核的な目的は、この合成方向を構成概念に切り離すことです。 そこで本研究では,これらの合成方向から,個々の特徴と意味的に整合した特徴を明確に分離するフレームワークであるステアリングベクトル分割を提案する。 具体的には、正と負のアクティベーションをペアにして、インスタンスレベルのステアリングベクトルのセットを生成し、専用のスパースオートエンコーダ(SAE)を直接トレーニングする。 2つのデータセット,2つのモデル,および2つの介入深さの定量的評価により,本手法が相互に区別可能な意味的に一貫した基底ベクトルの集合を生成することを示す。 さらに,この解離はモデル行動の正確な制御を可能にすることを示す。

関連論文リスト

• Where Steering Signals Come From: Activation Source Selection in Activation Steering [71.96112659293725]
  有効なステアリングは、ソーステキストに望ましい振る舞いが現れるかどうかだけでは説明できない。 強いシグナルは、モデルがターゲットの振る舞いを生成または継続しようとしている実行境界状態から来る。 この観点から、我々は、境界状態から共有のプロンプトと継続のセマンティクスを取り除くテールサブトラクションを導入する。
  論文  参考訳（メタデータ） (2026-07-28T04:18:24Z)
• On the Limits of Steering Vectors for Preference-Aligned Generation [12.350800078736128]
  本研究では, 特性表現性, タスク伝達, マルチトレート構成の3次元に沿ったステアリングベクトル一般化の限界について検討する。 この結果から, ステアリングベクトルは, 嗜好アライメントのための汎用ツールとして有意な限界に直面していることが示唆された。
  論文  参考訳（メタデータ） (2026-07-02T07:18:36Z)
• What Drives Representation Steering? A Mechanistic Case Study on Steering Refusal [53.189667624047416]
  異なるステアリング手法が同一層に印加した場合に機能的に交換可能な回路を利用することを示す。 その結果,操舵ベクトルは最大90～99%のスペーサー化が可能であり,ほとんどの性能は維持できることがわかった。
  論文  参考訳（メタデータ） (2026-04-09T17:57:14Z)
• ODESteer: A Unified ODE-Based Steering Framework for LLM Alignment [49.68063561145927]
  活性化ステアリングのための統一常微分方程式(ODE)に基づく理論的枠組みを提案する。 本稿では,バリア関数によって誘導されるODEベースのステアリングの一種であるODESteerを紹介する。 最先端のアクティベーションステアリング手法と比較すると、ODESteerは一貫した経験的改善を実現している。
  論文  参考訳（メタデータ） (2026-02-19T17:13:44Z)
• Concept Heterogeneity-aware Representation Steering [6.247724933679344]
  Representation steeringは、推論時に内部アクティベーションに介入することで、大きな言語モデル(LLM)の振る舞いを制御するメカニズムを提供する。 既存のほとんどの手法は単一のグローバルな操舵方向に依存しており、典型的には対照的なデータセットよりも差分で得られる。 本研究では、最適輸送(OT)のレンズによる表現ステアリングを視認し、標準差分ステアリングが2つの非モダルガウス分布間のOTマップと暗黙的に対応していることに注意する。
  論文  参考訳（メタデータ） (2026-02-13T11:07:23Z)
• Why Steering Works: Toward a Unified View of Language Model Parameter Dynamics [81.80010043113445]
  局所的な微調整、LoRAに基づく適応、およびアクティベーションに基づく介入を分離して研究する。 制御信号によって誘導される動的ウェイト更新として、これらの介入をフレーム化する統一的な視点を示す。 提案手法では,選択と効用との間に一貫したトレードオフが観測される。
  論文  参考訳（メタデータ） (2026-02-02T17:04:36Z)
• Steering Risk Preferences in Large Language Models by Aligning Behavioral and Neural Representations [4.029252551781513]
  ステアリングベクトルを明らかにするための原理的アプローチを提案する。 我々は,大規模言語モデルから潜在リスクの選好を抽出することに注力する。 得られた操舵ベクトルが目標動作に合わせてLLM出力を正常かつ確実に変調することを示す。
  論文  参考訳（メタデータ） (2025-05-16T18:23:10Z)
• Activation Scaling for Steering and Interpreting Language Models [55.59689963561315]
  モデルにうまく介入することは、内部の動作を解釈するための前提条件である、と我々は主張する。 成功した介入は、間違ったトークンで正しいことを正し、その逆を正すべきである。 勾配に基づく最適化を用いることで、特定の種類の効率的かつ解釈可能な介入を学習(そして後で評価)することができる。
  論文  参考訳（メタデータ） (2024-10-07T12:01:32Z)
• Personalized Steering of Large Language Models: Versatile Steering Vectors Through Bi-directional Preference Optimization [34.05163996072159]
  人選好データのアクティベーションから「ステアリングベクトル」を抽出する。 この研究は、双方向の選好最適化によってより効果的なステアリングベクトルを生み出すことができる革新的なアプローチを提案する。 提案手法は, ステアリングベクトルが人間の嗜好データペアの生成確率に直接影響を与えるように設計されている。
  論文  参考訳（メタデータ） (2024-05-28T05:10:40Z)
• Steering Llama 2 via Contrastive Activation Addition [41.54815073311959]
  コントラストアクティベーション付加(Contrastive Activation Addition、CAA)は、前方通過中にアクティベーションを変更することで言語モデルを操る手法である。 CAAは、Large Language Models (LLMs)において、どのようにハイレベルな概念が表現されるかを正確に判断し、明らかにする。
  論文  参考訳（メタデータ） (2023-12-09T04:40:46Z)
• On the Role of Bidirectionality in Language Model Pre-Training [85.14614350372004]
  本研究では,次のトークン予測,テキスト入力,ゼロショットプライミング,微調整における双方向性の役割について検討する。 最大6.7Bのパラメータを持つモデルをトレーニングし、スケールで一貫性のある相違点を見つけます。
  論文  参考訳（メタデータ） (2022-05-24T02:25:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。