論文の概要: Where Steering Signals Come From: Activation Source Selection in Activation Steering
- arxiv url: http://arxiv.org/abs/2607.25270v1
- Date: Tue, 28 Jul 2026 04:18:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-29 20:50:42.706488
- Title: Where Steering Signals Come From: Activation Source Selection in Activation Steering
- Title（参考訳）: ステアリング信号の出所:アクティベーションステアリングにおけるアクティベーションソースの選択
- Abstract要約: 有効なステアリングは、ソーステキストに望ましい振る舞いが現れるかどうかだけでは説明できない。
強いシグナルは、モデルがターゲットの振る舞いを生成または継続しようとしている実行境界状態から来る。
この観点から、我々は、境界状態から共有のプロンプトと継続のセマンティクスを取り除くテールサブトラクションを導入する。
- 参考スコア（独自算出の注目度）: 71.96112659293725
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Activation steering controls language models by adding vectors or features to hidden states at inference time, but the upstream source of these steering signals is often treated as a secondary detail. We study this source choice as activation source selection: the combination of source context and activation readout policy used to collect the hidden states from which a steering signal is built. Holding the downstream intervention fixed, we show across three instruction-tuned models and four steering task families that changing only the source activations substantially changes steering success. We further find that effective steering is not explained simply by whether the desired behavior appears in the source text. Instead, strong signals come from execution-boundary states, where the model is about to produce or continue the target behavior. This pre-/post-realization distinction explains why answer-based sources sometimes work: their useful component aligns with execution-boundary directions rather than target appearance alone. Building on this view, we introduce tail subtraction, which removes shared prompt and continuation semantics from boundary states and yields cleaner, more stable steering signals. Overall, our results suggest that steering depends on representations of what the model is about to do, not merely on what has already appeared.
- Abstract（参考訳）: アクティベーションステアリングは、推論時に隠れた状態にベクトルや特徴を加えることで言語モデルを制御するが、これらのステアリング信号の上流のソースはしばしば二次的な詳細として扱われる。
我々は、このソース選択をアクティベーションソース選択として、ステアリング信号が構築された隠れ状態の収集に使用されるソースコンテキストとアクティベーション読み出しポリシーの組み合わせについて検討する。
下流の介入を固定したまま、3つの指導訓練モデルと4つのステアリングタスクファミリにまたがって、ソースアクティベーションのみを変更することで、ステアリング成功を大きく変えることを示す。
さらに,有効なステアリングは,所望の動作がソーステキストに現れるかどうかだけでは説明できないことがわかった。
その代わり、強いシグナルは実行バウンダリ状態から来ており、モデルがターゲットの振る舞いを生成または継続しようとしている。
このプリ/ポスト実現の区別は、なぜ回答ベースのソースが機能するのかを説明している。
この観点から、我々は、境界状態から共有のプロンプトと継続のセマンティクスを取り除き、よりクリーンで安定したステアリング信号を出力するテールサブトラクションを導入する。
全体として、私たちの結果は、ステアリングはモデルが何をしようとしているかの表現にかかっていることを示唆しています。
関連論文リスト
- Disentangling Steering Vectors [13.671243729016568]
合成方向から個人的・意味論的に一貫した特徴を明示的に分離する枠組みを提案する。
具体的には、正と負のアクティベーションをペアにして、それらの差を利用してインスタンスレベルのステアリングベクトルの集合を生成する。
提案手法は, ステアリング効果が相互に区別可能な, 意味論的に一貫した基底ベクトルの集合を導出することを示す。
論文 参考訳（メタデータ） (2026-09-07T04:45:32Z) - DiMaS: Distribution Matching for Steering Vision-Language-Action Models [41.9662194189542]
フローマッチング視覚言語アクション(VLA)モデルは、ロボット操作の強力なポリシーとして登場した。
行動制御は、ロボットが内部表現に介入してタスクを実行する方法を管理する能力である。
本稿では,フローマッチングVLAに適した分散マッチングステアリング戦略であるDiMaSを提案する。
論文 参考訳（メタデータ） (2026-07-15T18:39:13Z) - When is Your LLM Steerable? [56.656180566692946]
アクティベーションステアリングは、推論時に言語モデルの振る舞いを制御するための軽量なアプローチを提供する。
ステアリングを成功させる体制と境界を見つけるには、通常、高価なグリッドサーチが必要である。
生成プロセスの開始時にモデルの内部状態からステアビリティを予測できるかどうかを検討する。
論文 参考訳（メタデータ） (2026-06-10T02:55:34Z) - Steer Like the LLM: Activation Steering that Mimics Prompting [0.0]
大規模な言語モデルは、プロンプトやアクティベーションの介入を通じて、推論時に操縦することができる。
アクティベーションステアリング法は、しばしばプロンプトベースのアプローチに比べて性能が劣る。
本稿では,アクティベーションステアリングの一形態として,迅速なステアリングを定式化するフレームワークを提案する。
論文 参考訳（メタデータ） (2026-05-05T15:59:42Z) - What Drives Representation Steering? A Mechanistic Case Study on Steering Refusal [53.189667624047416]
異なるステアリング手法が同一層に印加した場合に機能的に交換可能な回路を利用することを示す。
その結果,操舵ベクトルは最大90～99%のスペーサー化が可能であり,ほとんどの性能は維持できることがわかった。
論文 参考訳（メタデータ） (2026-04-09T17:57:14Z) - ODESteer: A Unified ODE-Based Steering Framework for LLM Alignment [49.68063561145927]
活性化ステアリングのための統一常微分方程式(ODE)に基づく理論的枠組みを提案する。
本稿では,バリア関数によって誘導されるODEベースのステアリングの一種であるODESteerを紹介する。
最先端のアクティベーションステアリング手法と比較すると、ODESteerは一貫した経験的改善を実現している。
論文 参考訳（メタデータ） (2026-02-19T17:13:44Z) - Why Steering Works: Toward a Unified View of Language Model Parameter Dynamics [81.80010043113445]
局所的な微調整、LoRAに基づく適応、およびアクティベーションに基づく介入を分離して研究する。
制御信号によって誘導される動的ウェイト更新として、これらの介入をフレーム化する統一的な視点を示す。
提案手法では,選択と効用との間に一貫したトレードオフが観測される。
論文 参考訳（メタデータ） (2026-02-02T17:04:36Z) - SteeringSafety: A Systematic Safety Evaluation Framework of Representation Steering in LLMs [42.189660766537536]
我々は17のデータセットにまたがる7つの安全性の観点から、表現ステアリング手法を評価するための体系的なフレームワークであるSteeringSafetyを紹介した。
当社のフレームワークは,DIM,ACE,CAA,PCA,LATの統一的な実装を実現するとともに,最近のコンディショナルステアリングなどの拡張を施した,最先端のステアリング手法のためのモジュール化されたビルディングブロックを提供する。
論文 参考訳（メタデータ） (2025-09-16T18:36:22Z) - Improving Instruction-Following in Language Models through Activation Steering [58.876600545898675]
命令固有ベクトル表現を言語モデルから導出し,それに従ってモデルをステアリングする。
提案手法は,出力形式や長さ,単語の包摂といった制約に対するモデル適合性をいかに向上させるかを示す。
本研究は,アクティベーションステアリングが言語生成におけるきめ細かい制御に実用的でスケーラブルなアプローチを提供することを示す。
論文 参考訳（メタデータ） (2024-10-15T08:38:20Z) - Analyzing the Generalization and Reliability of Steering Vectors [8.253773195379166]
ステアリングベクトルは分布内および分布外の両方にかなりの制限があることを示す。
分散において、ステアビリティは異なる入力間で高度に変動する。
アウト・オブ・ディストリビューション(out-of-distribution)、ステアリングベクトル(steering vector)はよく一般化されるが、いくつかの概念はプロンプトの合理的な変化に対して脆弱である。
論文 参考訳（メタデータ） (2024-07-17T08:32:03Z) - Improving Activation Steering in Language Models with Mean-Centring [10.101141087916133]
目標データセットに関連付けられたアクティベーションの平均値と、トレーニングアクティベーションの平均値を減じることで、効果的なステアリングベクトルが得られることがわかった。
また、関数ベクトルを抽出するために平均セントリングを適用し、より効果的に自然言語タスクの実行を顕著なマージンでトリガーする。
論文 参考訳（メタデータ） (2023-12-06T18:27:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。