論文の概要: AutoLexSteer: Automatic Contrast Construction for Lexical Activation Steering

• arxiv url: http://arxiv.org/abs/2609.06879v1
• Date: Sun, 06 Sep 2026 23:54:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-10 19:44:08.331305
• Title: AutoLexSteer: Automatic Contrast Construction for Lexical Activation Steering
• Title（参考訳）: AutoLexSteer:レキシカルアクティベーションステアリングの自動コントラスト構築
• Abstract要約: 本稿では,新しいタイプのステアリングベクターであるHangmanと,ステアリングベクターを構築するための最初の完全自動化プロセスであるAutoLexSteerを紹介する。 ステアリングベクトルは非常に正確で、単語のレベルや単語感覚(意味)のセットをステアリングするために使用することができ、シコファンシーのような特定のLCMの振る舞いをステアリングすることができる。
• 参考スコア（独自算出の注目度）: 23.265383538634854
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Steering vectors have rapidly emerged as a popular and effective method for guiding the output of LLMs in very specific ways. But constructing accurate steering vectors is a difficult manual process due to the opacity of embeddings. We introduce Hangman, a novel type of steering vector that operates using word senses, as well as AutoLexSteer, the first fully automated process for building steering vectors. AutoLexSteer employs families of closely-related words extracted from WordNet to specify both the steering source to be avoided and the desired steering target. The steering vectors are quite precise, can be used to steer at the level of words and sets of word senses (meanings), and are able to steer certain LLM behaviors like sycophancy. The dataset and code can be found at https://github.com/ShuheWang1998/autolexsteer.
• Abstract（参考訳）: ステアリングベクトルは、非常に特定の方法でLLMの出力を誘導するための一般的かつ効果的な方法として急速に現れてきた。 しかし、正確なステアリングベクトルを構築することは、埋め込みの不透明さのために難しい手作業である。 本稿では,新しいタイプのステアリングベクターであるHangmanと,ステアリングベクターを構築するための最初の完全自動化プロセスであるAutoLexSteerを紹介する。 AutoLexSteerは、WordNetから抽出された近縁な単語のファミリーを使用して、回避すべきステアリングソースと所望のステアリングターゲットの両方を指定する。 ステアリングベクターは非常に正確で、単語のレベルや単語感覚(意味)のセットをステアリングするために使用することができ、シコファンシーのような特定のLCMの振る舞いをステアリングすることができる。 データセットとコードはhttps://github.com/ShuheWang1998/autolexsteerで見ることができる。

関連論文リスト

• Where Steering Signals Come From: Activation Source Selection in Activation Steering [71.96112659293725]
  有効なステアリングは、ソーステキストに望ましい振る舞いが現れるかどうかだけでは説明できない。 強いシグナルは、モデルがターゲットの振る舞いを生成または継続しようとしている実行境界状態から来る。 この観点から、我々は、境界状態から共有のプロンプトと継続のセマンティクスを取り除くテールサブトラクションを導入する。
  論文  参考訳（メタデータ） (2026-07-28T04:18:24Z)
• On the Limits of Steering Vectors for Preference-Aligned Generation [12.350800078736128]
  本研究では, 特性表現性, タスク伝達, マルチトレート構成の3次元に沿ったステアリングベクトル一般化の限界について検討する。 この結果から, ステアリングベクトルは, 嗜好アライメントのための汎用ツールとして有意な限界に直面していることが示唆された。
  論文  参考訳（メタデータ） (2026-07-02T07:18:36Z)
• What Drives Representation Steering? A Mechanistic Case Study on Steering Refusal [53.189667624047416]
  異なるステアリング手法が同一層に印加した場合に機能的に交換可能な回路を利用することを示す。 その結果,操舵ベクトルは最大90～99%のスペーサー化が可能であり,ほとんどの性能は維持できることがわかった。
  論文  参考訳（メタデータ） (2026-04-09T17:57:14Z)
• SteerX: Disentangled Steering for LLM Personalization [75.89038195784701]
  大規模言語モデル(LLM)は近年顕著な成功を収めており、幅広いアプリケーションを可能にしている。 このようなアシスタントを構築する上で重要な要素は、ユーザの好みやニーズが多岐にわたるため、LLMをパーソナライズすることである。 本稿では、好みに依存しないコンポーネントから選好駆動コンポーネントを分離するSteerXを提案する。
  論文  参考訳（メタデータ） (2025-10-25T11:26:20Z)
• Enhancing LLM Steering through Sparse Autoencoder-Based Vector Refinement [31.282134977964976]
  既存のステアリング手法は、行動情報を学習するために大規模なデータセットに依存している。 本稿では,SAAEを利用してステアリングベクトルを意味的に識別・拡張するスパースオートエンコーダ(SAE-RSV)によるステアリングベクトルの精細化について紹介する。 本フレームワークでは、まず、SAEが提供するセマンティクスに基づいてタスク関連機能を取り除き、そのセマンティクスの類似性を通じて、小さなデータセットから欠落したタスク関連機能を強化する。
  論文  参考訳（メタデータ） (2025-09-28T10:49:22Z)
• Learning to Steer: Input-dependent Steering for Multimodal LLMs [54.41165851011022]
  本稿では,入力固有線形シフトを用いたきめ細かいステアリングについて検討する。 我々は、入力固有のステアリングベクトルを予測するために、小さな補助モジュールを訓練する。 我々のアプローチはL2S(Learn-to-Steer)と呼ばれ、幻覚を減らし、MLLMの安全性を向上し、他の静的ベースラインよりも優れていることを示す。
  論文  参考訳（メタデータ） (2025-08-18T10:53:20Z)
• AlphaSteer: Learning Refusal Steering with Principled Null-Space Constraint [49.641959856967276]
  提案手法はAlphaSteerと呼ばれる,理論的に基礎的かつ実験的に有効なアクティベーションステアリング法である。 ユーティリティ保存のために、Null-space制約を使って、良性データのステアリングのためのほぼゼロベクトルを構築することを学ぶ。 複数のjailbreak攻撃とユーティリティベンチマークの実験は、AlphaSteerの有効性を示している。
  論文  参考訳（メタデータ） (2025-06-08T07:03:28Z)
• HyperSteer: Activation Steering at Scale with Hypernetworks [25.6004576064897]
  HyperSteerは、自然言語のステアリングプロンプトに条件付きステアリングベクトルを生成するために、エンドツーエンドでトレーニングされたハイパーネットワークベースのアーキテクチャのファミリーである。 何千ものステアリングプロンプトによるHyperSteerのスケーリングは、最先端のアクティベーションステアリング手法の性能を上回ることを示す。
  論文  参考訳（メタデータ） (2025-06-03T18:32:01Z)
• Effectively Steer LLM To Follow Preference via Building Confident Directions [39.40603123075168]
  本稿では,モデルステアリング手法の理解と定量化のための理論的枠組みを提案する。 本フレームワークに着想を得て,LDMの活性化を制御できる確実な方向ステアリング法(CONFST)を提案する。 このアプローチは、一般的な双方向モデルステアリング方法に対して、3つの大きな利点を提供します。
  論文  参考訳（メタデータ） (2025-03-04T20:32:27Z)
• Improving Instruction-Following in Language Models through Activation Steering [58.876600545898675]
  命令固有ベクトル表現を言語モデルから導出し,それに従ってモデルをステアリングする。 提案手法は,出力形式や長さ,単語の包摂といった制約に対するモデル適合性をいかに向上させるかを示す。 本研究は,アクティベーションステアリングが言語生成におけるきめ細かい制御に実用的でスケーラブルなアプローチを提供することを示す。
  論文  参考訳（メタデータ） (2024-10-15T08:38:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。