論文の概要: Creating Steering Vectors via Input Optimisation
- arxiv url: http://arxiv.org/abs/2611.17481v1
- Date: Thu, 12 Nov 2026 20:06:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-16 18:43:16.253423
- Title: Creating Steering Vectors via Input Optimisation
- Title(参考訳): 入力最適化によるステアリングベクトルの作成
- Abstract要約: アクティベーションステアリングは、生成中の残ストリームにステアリングベクトルを追加することによって、言語モデルの振る舞いに影響を与える。
本稿では,Greedy Coordinate Gradientの修正であるActGCGを紹介する。
我々は、ドイツ語で答えるためにモデルをステアリングすることと、ジェイルブレイクに対する反拒絶的なステアリングという2つの行動を研究する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Activation steering influences a language model's behaviour by adding a steering vector to its residual stream during generation, but it requires white-box access to modify the hidden states at every generation step. We introduce ActGCG, a modification of Greedy Coordinate Gradient which optimises a suffix to match the target activations obtained by adding a steering vector to the residual stream. We further introduce universal suffixes trained across many prompts at once, a model-translation step that rewrites the suffix into human-readable text midway through optimisation, and a soft-suffix variant to remove the discrete token space constraint. We study two behaviours: steering a model to answer in German, and anti-refusal steering for jailbreaking. For German, a discrete suffix reproduces the steering vector's behaviour almost perfectly and transfers well across prompts and models. For anti-refusal, the equivalence is weaker, succeeding under a phrase-avoidance metric but only partially under the stricter HarmBench classifier. Our results show that a steering vector's behaviour is reachable from the input, with no access to model internals at generation time, up to a loss that depends on the concept being steered.
- Abstract(参考訳): アクティベーションステアリングは、生成中に残ストリームにステアリングベクトルを追加することで、言語モデルの振る舞いに影響を与えるが、生成ステップ毎に隠れた状態を変更するには、ホワイトボックスアクセスが必要である。
本稿では,残流にステアリングベクトルを付加することにより得られる目標活性化と一致するように接尾辞を最適化したGreedy Coordinate Gradientの修正であるActGCGを紹介する。
さらに,多くのプロンプトで同時に訓練された普遍接尾辞,最適化によって接尾辞を可読テキストに書き換えるモデル翻訳ステップ,離散トークン空間の制約を取り除くソフト接尾辞バリアントも導入する。
我々は、ドイツ語で答えるためにモデルをステアリングすることと、ジェイルブレイクに対する反拒絶的なステアリングという2つの行動を研究する。
ドイツ語では、離散接尾辞はステアリングベクトルの振る舞いをほぼ完璧に再現し、プロンプトやモデル間でうまく伝達する。
反拒絶の場合、同値性はより弱く、フレーズ回避計量の下では成功するが、部分的にはより厳密なHarmBench分類の下でのみ成功する。
この結果から, ステアリングベクトルの動作は入力から到達可能であり, モデル内部へのアクセスは行わず, ステアリングされる概念に依存した損失となることがわかった。
関連論文リスト
- On the Limits of Steering Vectors for Preference-Aligned Generation [12.350800078736128]
本研究では, 特性表現性, タスク伝達, マルチトレート構成の3次元に沿ったステアリングベクトル一般化の限界について検討する。
この結果から, ステアリングベクトルは, 嗜好アライメントのための汎用ツールとして有意な限界に直面していることが示唆された。
論文 参考訳(メタデータ) (2026-07-02T07:18:36Z) - When is Your LLM Steerable? [56.656180566692946]
アクティベーションステアリングは、推論時に言語モデルの振る舞いを制御するための軽量なアプローチを提供する。
ステアリングを成功させる体制と境界を見つけるには、通常、高価なグリッドサーチが必要である。
生成プロセスの開始時にモデルの内部状態からステアビリティを予測できるかどうかを検討する。
論文 参考訳(メタデータ) (2026-06-10T02:55:34Z) - GrAInS: Gradient-based Attribution for Inference-Time Steering of LLMs and VLMs [56.93583799109029]
GrAInSは推論時ステアリングのアプローチで、言語のみのモデルと視覚言語の両方のモデルとタスクで動作する。
推論中、GrAInSはトークンレベルの属性信号によって誘導されるトランスフォーマー層で隠されたアクティベーションを隠蔽し、アクティベーションを正規化し、表現スケールを保存する。
微調整と既存のステアリングベースラインの両方を一貫して上回る。
論文 参考訳(メタデータ) (2025-07-24T02:34:13Z) - Improved Representation Steering for Language Models [50.86411958644953]
我々は新しいReference-free Preference Steering (RePS)を通して表現ステアリングを改善する方法を示す。
2Bから27Bまでのサイズを持つGemmaモデルでは、RePSは言語モデリングの目的で訓練された既存のステアリングメソッドよりも優れています。
抑圧においては、RePSはGemma-2の言語モデリングの目的と一致し、より大きなGemma-3の変種よりも優れている。
論文 参考訳(メタデータ) (2025-05-27T07:16:40Z) - Activation Scaling for Steering and Interpreting Language Models [55.59689963561315]
モデルにうまく介入することは、内部の動作を解釈するための前提条件である、と我々は主張する。
成功した介入は、間違ったトークンで正しいことを正し、その逆を正すべきである。
勾配に基づく最適化を用いることで、特定の種類の効率的かつ解釈可能な介入を学習(そして後で評価)することができる。
論文 参考訳(メタデータ) (2024-10-07T12:01:32Z) - Analyzing the Generalization and Reliability of Steering Vectors [8.253773195379166]
ステアリングベクトルは分布内および分布外の両方にかなりの制限があることを示す。
分散において、ステアビリティは異なる入力間で高度に変動する。
アウト・オブ・ディストリビューション(out-of-distribution)、ステアリングベクトル(steering vector)はよく一般化されるが、いくつかの概念はプロンプトの合理的な変化に対して脆弱である。
論文 参考訳(メタデータ) (2024-07-17T08:32:03Z) - Steering Without Side Effects: Improving Post-Deployment Control of Language Models [61.99293520621248]
言語モデル(LM)は、デプロイ後予期せず振る舞うことが示されている。
KL-then-steer (KTS) は, その利点を保ちながら, 操舵の副作用を低減する技術である。
本手法はLlama-2-chat-7Bモデルと比較して44%のジェイルブレイク攻撃を防ぐ。
論文 参考訳(メタデータ) (2024-06-21T01:37:39Z) - Extracting Latent Steering Vectors from Pretrained Language Models [14.77762401765532]
本研究では,言語モデルデコーダから直接潜在ベクトルを抽出できることを示す。
実験により、ステアリングベクトルが存在し、それが言語モデルの隠れ状態に追加されると、ほぼ完璧にターゲット文を生成することが示された。
テキスト類似度ベンチマークで評価すると, ステアリングベクトル間の距離が文類似度を反映していることが分かる。
論文 参考訳(メタデータ) (2022-05-10T19:04:37Z) - Do Generative Models Know Disentanglement? Contrastive Learning is All
You Need [59.033559925639075]
本論文では,変数空間におけるコントラスト(DisCo)による非監視的,モデル非依存的手法を提案する。
DisCoは、GAN、VAE、およびフローを含む、事前訓練された非解離生成モデルに与えられた最先端の解離を達成します。
論文 参考訳(メタデータ) (2021-02-21T08:01:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。