論文の概要: Steering Vectors for Competing Ethical Frameworks Are Interchangeable: A Competing-Target Test for Activation Steering
- arxiv url: http://arxiv.org/abs/2610.19359v1
- Date: Wed, 14 Oct 2026 01:00:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.86583
- Title: Steering Vectors for Competing Ethical Frameworks Are Interchangeable: A Competing-Target Test for Activation Steering
- Title（参考訳）: 倫理的フレームワークと競合するステアリングベクトルは交換可能:アクティベーションステアリングのための競合ターゲットテスト
- Abstract要約: アクティベーションステアリングは、名前付き振る舞いを制御するために、モデルの隠れ状態にベクトルを追加する。
しかし、その振る舞いに対する利得は、ベクトルが直接制御することを示さない。
競合対象検定は、ベクトルが競合対象に対して同様に構築されたベクトルと比較され、その差が有用マージン以下である場合に同値検定が成立する。
- 参考スコア（独自算出の注目度）: 0.6138671548064355
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Activation steering adds a vector to a model's hidden states to control a named behaviour. A gain on that behaviour, however, does not show that the vector controls it directly: it may act through a component shared with neighbouring behaviours, which unsteered and random baselines cannot separate. We introduce the competing-target test: a vector is compared with the vector built the same way for a competing target, and an equivalence test states when their difference is below a useful margin. We apply it in open-weight models to vectors for Kantian deontology, which judges an act by the rule it follows, and act utilitarianism, which judges it by the welfare it produces. On held-out situations, prompting a framework raises its score and lowers the other's, whereas vectors for either framework move both scores alike, and none reaches the margin. The two vectors share most of their direction, a request to apply some framework; the same construction separates an optimistic from a pessimistic tone, whose vectors share much less. What a vector shares with its competitors therefore sets what it controls: steering a perspective can deliver a mixture, and measuring a disposition can measure its neighbours, unless tested against the competing target.
- Abstract（参考訳）: アクティベーションステアリングは、名前付き動作を制御するために、モデルの隠れ状態にベクトルを追加する。
しかし、その振る舞いに対する利得は、ベクターが直接制御することを示さない: 近隣の振る舞いと共有されるコンポーネントを通して作用し、非ステアリングとランダムなベースラインは分離できない。
競合対象検定は、ベクトルが競合対象に対して同様に構築されたベクトルと比較され、その差が有用マージン以下である場合に同値検定が成立する。
我々はこれをオープンウェイトモデルでカンティアン・デオントロジーのベクトルに適用し、従う規則によって行為を判断し、実用主義を実践し、それが生み出す福祉によってそれを判断する。
持ちこたえの状況では、フレームワークのプロンプトはそのスコアを上げ、他方のスコアを下げるが、一方、どちらのフレームワークのベクトルも両方のスコアを同じように動かし、マージンに到達しない。
同じ構成は、ベクトルがより少ない悲観的なトーンから楽観的を分離する。
したがって、ベクターが競合相手と共有するものは、その制御対象を定める: 視点を操ることによって混合が得られ、分散を測定することは、競合対象に対してテストしない限り、隣人を測定することができる。
関連論文リスト
- Disentangling Steering Vectors [13.671243729016568]
合成方向から個人的・意味論的に一貫した特徴を明示的に分離する枠組みを提案する。
具体的には、正と負のアクティベーションをペアにして、それらの差を利用してインスタンスレベルのステアリングベクトルの集合を生成する。
提案手法は, ステアリング効果が相互に区別可能な, 意味論的に一貫した基底ベクトルの集合を導出することを示す。
論文 参考訳（メタデータ） (2026-09-07T04:45:32Z) - On the Limits of Steering Vectors for Preference-Aligned Generation [12.350800078736128]
本研究では, 特性表現性, タスク伝達, マルチトレート構成の3次元に沿ったステアリングベクトル一般化の限界について検討する。
この結果から, ステアリングベクトルは, 嗜好アライメントのための汎用ツールとして有意な限界に直面していることが示唆された。
論文 参考訳（メタデータ） (2026-07-02T07:18:36Z) - Internal-State Probes Read the Situation, Not the Action: Three Negative Results for Pre-Action Misalignment Monitoring [1.3636639880574484]
内部の読み出しは、それらのアクションが生成される前に有害なテキストやツールアクションを特定する場合、エージェントシステムを監視するのに役立つ。
Qwen2.5-Coder-32B-Instruct fine-tune/base direction, Llama-3.1-8B-Instruct probes at the last token of unsafe prefills, Gemma-3-27B-IT emotion-concept vectors for projection and steering。
論文 参考訳（メタデータ） (2026-06-29T15:18:36Z) - CIAware-Bench: Benchmarking Control Intervention Awareness Across Frontier LLMs [100.38986535324284]
我々は、フロンティアモデル全体でのtextbfcontrol textbfintervention (CI) の認識を測定するベンチマークである textbfCIAware-Bench を紹介する。
CIAware-Benchは、モデルが自身の軌跡を制御介入によって修正されたものと区別できるかどうかをテストする。
論文 参考訳（メタデータ） (2026-06-09T16:24:16Z) - What Drives Representation Steering? A Mechanistic Case Study on Steering Refusal [53.189667624047416]
異なるステアリング手法が同一層に印加した場合に機能的に交換可能な回路を利用することを示す。
その結果,操舵ベクトルは最大90～99%のスペーサー化が可能であり,ほとんどの性能は維持できることがわかった。
論文 参考訳（メタデータ） (2026-04-09T17:57:14Z) - Understanding (Un)Reliability of Steering Vectors in Language Models [21.33093425619501]
本稿では,アクティベーションの違いが操舵信頼性に及ぼす影響について検討する。
実験で使用した7つのプロンプト型はすべて、正の操舵効果を生じるが、試料間で高いばらつきを示し、しばしば所望のものと逆の効果を与える。
論文 参考訳（メタデータ） (2025-05-28T17:53:31Z) - Activation Scaling for Steering and Interpreting Language Models [55.59689963561315]
モデルにうまく介入することは、内部の動作を解釈するための前提条件である、と我々は主張する。
成功した介入は、間違ったトークンで正しいことを正し、その逆を正すべきである。
勾配に基づく最適化を用いることで、特定の種類の効率的かつ解釈可能な介入を学習(そして後で評価)することができる。
論文 参考訳（メタデータ） (2024-10-07T12:01:32Z) - Bidirectional Decoding: Improving Action Chunking via Guided Test-Time Sampling [51.38330727868982]
動作チャンキングが学習者と実証者の間の分岐にどのように影響するかを示す。
動作チャンキングをクローズドループ適応でブリッジするテスト時間推論アルゴリズムである双方向デコーディング(BID)を提案する。
提案手法は、7つのシミュレーションベンチマークと2つの実世界のタスクにまたがって、最先端の2つの生成ポリシーの性能を向上させる。
論文 参考訳（メタデータ） (2024-08-30T15:39:34Z) - Extracting Latent Steering Vectors from Pretrained Language Models [14.77762401765532]
本研究では,言語モデルデコーダから直接潜在ベクトルを抽出できることを示す。
実験により、ステアリングベクトルが存在し、それが言語モデルの隠れ状態に追加されると、ほぼ完璧にターゲット文を生成することが示された。
テキスト類似度ベンチマークで評価すると, ステアリングベクトル間の距離が文類似度を反映していることが分かる。
論文 参考訳（メタデータ） (2022-05-10T19:04:37Z) - Control-Aware Prediction Objectives for Autonomous Driving [78.19515972466063]
本研究では,制御に対する予測の下流効果を評価するための制御認識予測目標(CAPOs)を提案する。
本稿では,エージェント間の注意モデルを用いた重み付けと,予測軌跡を接地真実軌跡に交換する際の制御変動に基づく重み付けの2つの方法を提案する。
論文 参考訳（メタデータ） (2022-04-28T07:37:21Z) - Word Rotator's Distance [50.67809662270474]
テキスト類似性を評価する上での鍵となる原則は、単語のアライメントを考慮した2つのテキスト間の意味的重複度を測定することである。
単語ベクトルのノルムは単語の重要度によいプロキシであり、その角度は単語類似度によいプロキシであることを示す。
本稿では,まず単語ベクトルをノルムと方向に分解し,アライメントに基づく類似性を計算する手法を提案する。
論文 参考訳（メタデータ） (2020-04-30T17:48:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。