論文の概要: When Steering Shifts Discourse: Identifying and Intervening on Discourse-Level Changes due to Activation Steering in LLMs

• arxiv url: http://arxiv.org/abs/2610.41661v1
• Date: Fri, 30 Oct 2026 12:32:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 22:05:31.704067
• Title: When Steering Shifts Discourse: Identifying and Intervening on Discourse-Level Changes due to Activation Steering in LLMs
• Title（参考訳）: ステアリングが談話を変えるとき: LLMにおける活性化ステアリングによる談話レベル変化の同定と介入
• Abstract要約: アクティベーションステアリング(Activation steering)は、大きな言語モデルの振る舞いを制御または修正するために使用される推論時間技術である。 本研究では, ステアリングが生成したテキストの談話次元に有意な変化をもたらすことを示す。 本稿では、影響を受ける談話次元を対象とする2番目の相補的ベクトルを追加することで、これに対応する方法を提案する。
• 参考スコア（独自算出の注目度）: 9.675463868939168
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Activation steering is an inference-time technique used to control or modify the behavior, tone, or safety properties of a large language model (LLM) without retraining the model's weights or editing its input prompt, but simply by adding a vector to its residual-stream activations. However, activation steering also changes the generated text in unintended ways, unrelated to intended behavior change, that are not well understood. Prior work has measured these changes only through coarse signals such as perplexity. In this work, we show that steering systematically produces significant changes in discourse dimensions of the generated text, such as its formality, use of evidence, and ambiguity. We present a way of countering this by adding a second, complementary vector that targets the affected discourse dimension. This intervention restores about 78% of the unintended discourse changes while preserving the intended steering behavior in about 93% of the generations.
• Abstract（参考訳）: アクティベーションステアリング(Activation steering)は、モデルウェイトをトレーニングしたり、入力プロンプトを編集したりすることなく、単に残ストリームアクティベーションにベクトルを追加することで、大きな言語モデル(LLM)の振る舞い、トーン、安全性を制御または修正するために使用される推論時技術である。 しかし、アクティベーションステアリングは、意図しない振る舞いとは無関係に、意図しない方法で生成されたテキストも変更する。 これまでの研究では、これらの変化はパープレキシティのような粗い信号によってのみ測定されてきた。 本研究は, 定式化やエビデンスの利用, 曖昧さなど, 生成したテキストの談話次元に, 体系的に重要な変化が生じることを示す。 本稿では、影響を受ける談話次元を対象とする2番目の相補的ベクトルを追加することで、これに対応する方法を提案する。 この介入は意図しない言論変化の約78%を回復し、意図した操舵行動を約93%の世代で保存する。

関連論文リスト

• Loud and Clear: Dynamic Activation Steering for Improving Speech Intelligibility in Noisy Environments [61.29502937013759]
  我々は,アクティベーションステアリングを用いて,テキスト音声(TTS)モデルを誘導し,より理解しやすい音声を生成することができるかを検討する。 本手法は,Lombard 関連音響特性の体系的変化を,可視・不可視話者と複数の言語で生成する。 その結果、事前学習したTSモデルを動的に制御し、再学習せずにより分かりやすい音声を生成することができた。
  論文  参考訳（メタデータ） (2026-10-06T02:41:15Z)
• Steering Fields: Adaptive Vector Fields for Safe Image Generation and Beyond [65.02517762858879]
  生成過程の各ステップにおけるステアリング方向を適応的に再推定するステアリングベクトルの一般化であるステアリング場を導入する。 ステアフィールド場は流れモデルのノイズの多い状態で動作し、ステアリング強度とコンテンツ保存との間の連続的なトレードオフを露呈し、構成的である。 明示的な空間マスクや物体の先行値を使用しないにもかかわらず、軌道適応推定は局所構造を自然に保存する。
  論文  参考訳（メタデータ） (2026-09-30T12:06:48Z)
• Forecasting Side Effects of Activation Steering [2.9232547241199156]
  アクティベーションステアリングは、学習方向を隠れたアクティベーションに追加することで言語モデルを変更する。 操舵は効果的であるが、他の行動に意図しない副作用を生じることが多く、安全に展開することは困難である。 これらの副作用は、ステアリングを適用する前に予測できますか? 副作用は一般的で、構造化され、しばしば非対称であり、既存の類似性ベースでは説明できない相互作用を明らかにする。
  論文  参考訳（メタデータ） (2026-07-28T08:46:06Z)
• Where Steering Signals Come From: Activation Source Selection in Activation Steering [71.96112659293725]
  有効なステアリングは、ソーステキストに望ましい振る舞いが現れるかどうかだけでは説明できない。 強いシグナルは、モデルがターゲットの振る舞いを生成または継続しようとしている実行境界状態から来る。 この観点から、我々は、境界状態から共有のプロンプトと継続のセマンティクスを取り除くテールサブトラクションを導入する。
  論文  参考訳（メタデータ） (2026-07-28T04:18:24Z)
• Activation Steering Induces Emergent Misalignment: A More Comprehensive Evaluation [74.17379276939599]
  近年のQwen-3.5シリーズにおいても,アクティベーションステアリングが広範囲のアライメントを引き起こすことが示されている。 ステアリングサイズ, ステアリングサブスペースの低ランク構造, ステアリングベクター構築時のエポック数など, キーステアリング固有の因子を解析することにより, AS誘起EMの特性を特徴づける。
  論文  参考訳（メタデータ） (2026-06-07T15:34:59Z)
• Omni-Supervised Motion Editing: Balancing Change and Invariance through Positive-Negative Learning [55.410155357480654]
  我々はOmniMEという,Omni-Supervised Positive-Negative Learningフレームワークを提案する。 本手法は3つの相補的成分を統合する。 MotionFixとSTANCE調整データセットの実験は、OmniMEが編集アライメントにおける最先端のパフォーマンスを達成することを示した。
  論文  参考訳（メタデータ） (2026-05-29T08:09:51Z)
• Minimizing Collateral Damage in Activation Steering [26.274685653829792]
  アクティベーションステアリング(英: Activation steering)とは、言語モデル(LLM)の動作を制御する手法である。 ベクトル付加のような標準的な介入は、しばしば他の標的でない特徴方向に沿った活性化のアライメントに意図しない変化を引き起こす。 本研究では, 協調的損傷を数学的に定式化し, ステアリングを制約付き最適化問題としてモデル化する原理的枠組みを導入する。
  論文  参考訳（メタデータ） (2026-05-01T23:52:54Z)
• Steer2Edit: From Activation Steering to Component-Level Editing [24.755027943286432]
  我々は、ステアリングベクトルをコンポーネントランク1の重み付けのための診断信号に変換する、トレーニング不要のフレームワークであるSteer2Editを提案する。 安全性のアライメント、属性緩和、推論効率などを通じて、Steer2Editは一貫して、より好ましい属性ユーティリティトレードオフを実現している。 全体として、Steer2Editは表現ステアリングとウェイト編集の間に原則化されたブリッジを提供する。
  論文  参考訳（メタデータ） (2026-02-10T15:15:15Z)
• Steering Language Models With Activation Engineering [40.04138190785384]
  アクティベーションエンジニアリングを導入し、モデル出力を制御(またはステア)するためにアクティベーションの推論時間を変更する。 LLaMA-3 や OPT などのモデルを用いて, 負対正の感情変化と解毒を行う。 ActAddは、ターゲット外のタスクのパフォーマンスを維持しながら、高レベルの出力特性(トピックや感情など)を推論時間で制御する。
  論文  参考訳（メタデータ） (2023-08-20T12:21:05Z)
• Moving Forward by Moving Backward: Embedding Action Impact over Action Semantics [57.671493865825255]
  本稿では,潜伏埋め込みを用いた飛行行動の影響をモデル化する。 これらの潜在アクション埋め込みと、トランスフォーマーベースのポリシーヘッドを組み合わせることで、アクション適応ポリシーを設計する。 当社のAAPは, 対面時, 推論時, 動作不足時, 以前は見えなかった摂動行動空間においても, 高い性能を示した。
  論文  参考訳（メタデータ） (2023-04-24T17:35:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。