論文の概要: Adaptive Multi-Value Control in LLMs via Causal Activation Steering

• arxiv url: http://arxiv.org/abs/2609.30405v1
• Date: Thu, 24 Sep 2026 18:07:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 18:27:51.09547
• Title: Adaptive Multi-Value Control in LLMs via Causal Activation Steering
• Title（参考訳）: 因果活性化ステアリングによるLCMの適応多値制御
• Abstract要約: 適応型多値アクティベーションステアリングのためのフレームワークであるAIMESを紹介する。 複数値の制御性は、値の組み合わせと介入の深さの両方で異なる。 固定継手ステアリングとプロンプトベースステアリングと比較すると, AIMESは深度依存性の利点を示す。
• 参考スコア（独自算出の注目度）: 6.142860207884955
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Large language models (LLMs) are increasingly deployed in settings where responses must reflect multiple, potentially interacting social norms and human values. Activation steering offers a lightweight alternative to training-based alignment by modifying internal activations at inference time. However, prior human-value steering methods have largely considered values in isolation, while direct composition of multiple directions relies on fixed intervention strengths that cannot respond to the model's evolving internal state. Motivated by this key observation, we introduce AIMES, a framework for adaptive multi-value activation steering. AIMES constructs layer-specific bipolar directions for moral-foundation values and uses intermediate-layer vocabulary readouts as online observers. An observer-guided controller then adapts the strength of each requested value intervention at every decoding step based on its current observed state, without training a separate value-state estimator. Across multiple instruction-tuned model families, value combinations, and intervention depths, we find that multi-value controllability varies across both value combinations and intervention locations. Compared with fixed joint steering and prompt-based steering, AIMES shows depth-dependent advantages that are broadly supported across two independent evaluators, with some variation in the precise depth at which specific control effects emerge. These advantages come with smaller realized activation-space interventions than fixed-joint steering and comparable response quality. Overall, our results suggest that online observer feedback can provide lightweight, state-aware adaptation for single-pass multi-value steering.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、応答が複数の、潜在的に相互作用する社会的規範と人間の価値を反映しなければならない設定に、ますます多くデプロイされている。 アクティベーションステアリングは、推論時に内部アクティベーションを変更することで、トレーニングベースのアライメントに代わる軽量な代替手段を提供する。 しかしながら、従来の人間価値ステアリング手法は、主に独立して値を考えるが、複数の方向の直接合成は、モデルの進化する内部状態に反応しない固定された介入強度に依存する。 AIMESは適応型多値アクティベーションステアリングのためのフレームワークである。 AIMESは、モラル境界値のための層固有のバイポーラ方向を構築し、オンラインオブザーバとして中間層語彙の読み出しを使用する。 次に、オブザーバ誘導コントローラは、それぞれの要求された値介入の強度を現在の観測状態に基づいて、別の値状態推定器を訓練することなく、復号ステップ毎に適応させる。 複数の命令調整されたモデルファミリ、値の組み合わせ、介入の深さによって、複数の値の制御性は、値の組み合わせと介入の場所の両方で異なることが分かる。 AIMESは固定関節ステアリングやプロンプトベースステアリングと比較して、2つの独立評価器で広く支持される深度依存性の利点を示しており、特定の制御効果が出現する正確な深さのばらつきがある。 これらのアドバンテージは、固定結合のステアリングと同等の応答品質よりも、活性化空間の介入が小さい。 以上の結果から, オンラインオブザーバフィードバックは, シングルパス多値ステアリングに対して, 軽量かつステートアウェアな適応を提供する可能性が示唆された。

関連論文リスト

• Weight Updates as Activation Shifts: A Principled Framework for Steering [54.70188910511715]
  アクティベーションステアリングは極めてパラメータ効率のよい適応形態となるが、その有効性は重要な設計選択に依存する。 我々は,活性化空間介入と重量空間更新の1次等価性を確立し,活性化ステアリングが微調整動作を再現できる条件を導出する。 この等価性は、設計をステアリングするための原則的な枠組みをもたらし、ポストブロック出力を理論的に支持され、非常に表現力のある介入サイトとして特定する。
  論文  参考訳（メタデータ） (2026-02-28T02:50:04Z)
• AMPS: Adaptive Modality Preference Steering via Functional Entropy [66.69992693275061]
  本稿では,各モータリティの情報提供量を定量化し,ステアリングに対するサンプル固有の感受性を明らかにするインスタンス認識診断指標を提案する。 実験結果から, インスタンス認識のステアリングは, 従来のステアリングよりもモダリティの嗜好の調整に優れていたことが示唆された。
  論文  参考訳（メタデータ） (2026-02-13T02:29:06Z)
• Why Steering Works: Toward a Unified View of Language Model Parameter Dynamics [81.80010043113445]
  局所的な微調整、LoRAに基づく適応、およびアクティベーションに基づく介入を分離して研究する。 制御信号によって誘導される動的ウェイト更新として、これらの介入をフレーム化する統一的な視点を示す。 提案手法では,選択と効用との間に一貫したトレードオフが観測される。
  論文  参考訳（メタデータ） (2026-02-02T17:04:36Z)
• VISPA: Pluralistic Alignment via Automatic Value Selection and Activation [82.8405077104797]
  トレーニング不要な多元的アライメントフレームワークであるVISPAを紹介する。 VISPAは、医療などにおいて、複数のアライメントモードにまたがるパフォーマンスを示す。
  論文  参考訳（メタデータ） (2026-01-19T06:38:52Z)
• Beyond Linear Steering: Unified Multi-Attribute Control for Language Models [8.223479896191145]
  K-ステアリング(K-Steering)は、隠れたアクティベーションに対して単一の非線形マルチラベル分類器を訓練する統一的で柔軟なアプローチである。 これにより、線形性の仮定を回避し、別個のベクトル属性の保存とチューニングの必要性を排除し、再トレーニングなしに振る舞いの動的構成を可能にする。 アクティベーションに基づく分類器とLCMに基づく判定器の両方で検証された3つのモデルファミリーにおける実験結果から、K-ステアリングは複数の動作を正確に操る上で、強いベースラインより優れていることが証明された。
  論文  参考訳（メタデータ） (2025-05-30T12:41:19Z)
• Steering Llama 2 via Contrastive Activation Addition [41.54815073311959]
  コントラストアクティベーション付加(Contrastive Activation Addition、CAA)は、前方通過中にアクティベーションを変更することで言語モデルを操る手法である。 CAAは、Large Language Models (LLMs)において、どのようにハイレベルな概念が表現されるかを正確に判断し、明らかにする。
  論文  参考訳（メタデータ） (2023-12-09T04:40:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。