論文の概要: How to Tame a Multi-Headed Hydra? Adaptive Multi-Category Safety Steering for Large Language Models

• arxiv url: http://arxiv.org/abs/2609.34514v2
• Date: Tue, 29 Sep 2026 07:14:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:46.745875
• Title: How to Tame a Multi-Headed Hydra? Adaptive Multi-Category Safety Steering for Large Language Models
• Title（参考訳）: マルチヘッドハイドラーの解釈法 : 大規模言語モデルに対する適応型マルチカテゴリ安全ステアリング
• Abstract要約: CAM-Steerはカテゴリー適応型多カテゴリ安全ステアリングフレームワークである。 これは、現在の隠れ状態と安全で安全でないプロトタイプを比較して、各有害カテゴリーに関連するリスクを推定する。 構成された操舵方向に沿って隠れ状態が回転し、推定リスクによって回転角が決定される。
• 参考スコア（独自算出の注目度）: 11.057116120270194
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As large language models (LLMs) become increasingly widespread, preventing unsafe responses to harmful prompts is essential for their safe deployment. Activation steering offers an approach to improving LLM safety by modifying internal activations during inference without updating model parameters. However, a single prompt can involve multiple harm categories, and steering toward safety in one category may leave harmful content from another unaddressed. Despite advances in adaptive steering, existing methods do not explicitly coordinate steering direction and strength when multiple harm categories co-occur within a single prompt. To address this problem, we propose CAM-Steer, a Category-Adaptive Multi-category Safety Steering framework. Specifically, it estimates the risk associated with each harm category by comparing the current hidden state with safe and unsafe prototypes. The estimated risks are then used to combine the safety directions for different harm categories into a single steering direction and to determine the strength of the intervention. Finally, it rotates the hidden state along the composed steering direction, with the rotation angle determined by the estimated risks, while preserving the hidden-state norm. Experiments across three LLM backbones and seven harm categories show that CAM-Steer outperforms the evaluated baselines in average defense success rate, including when categories co-occur. Further analyses support its component designs and informative risk scores, with negligible inference overhead.
• Abstract（参考訳）: 大きな言語モデル(LLM)が普及するにつれて、有害なプロンプトに対する安全でない応答を防ぐことが、彼らの安全なデプロイメントに不可欠である。 アクティベーションステアリングは、モデルパラメータを更新することなく、推論中に内部のアクティベーションを変更することによって、LCMの安全性を改善するアプローチを提供する。 しかし、1つのプロンプトは複数の有害カテゴリーを伴い、あるカテゴリにおける安全に向けての操縦は、有害な内容が他の未修正領域から残る可能性がある。 アダプティブステアリングの進歩にもかかわらず、既存の方法は、複数の調和カテゴリーが1つのプロンプト内で共起する場合に、ステアリングの方向と強度を明示的に調整しない。 この問題に対処するため,カテゴリ適応型多カテゴリ安全ステアリングフレームワークであるCAM-Steerを提案する。 具体的には、現在の隠れ状態と安全で安全でないプロトタイプを比較して、各有害カテゴリーに関連するリスクを推定する。 推定リスクは、異なる危険カテゴリーの安全方向を単一のステアリング方向に組み合わせ、介入の強度を決定するために使用される。 最後に、構成された操舵方向に沿って隠れ状態が回転し、その回転角は推定リスクによって決定され、隠れ状態ノルムは保存される。 3つのLSMバックボーンと7つのハーフカテゴリにわたる実験により、CAM-Steerは、カテゴリーが共起する時間を含む平均防衛成功率において、評価されたベースラインを上回っていることが示された。 さらなる分析はコンポーネントの設計と情報的リスクスコアをサポートし、推論のオーバーヘッドは無視できる。

関連論文リスト

• Do Models Share Safety Representations? Cross-Model Steering for Safe Visual Generation [52.122731171289665]
  クロスモデル安全ステアリングのための最初のフレームワークを紹介する。 私たちのパイプラインは、ターゲット側の安全でないデータにアクセスしません。 多様なソース・ターゲット・モデル・ペア間のテキスト・ツー・イメージとテキスト・ツー・ビデオ生成におけるアプローチを評価する。
  論文  参考訳（メタデータ） (2026-06-03T18:00:04Z)
• When Safety Collides: Resolving Multi-Category Harmful Conflicts in Text-to-Image Diffusion via Adaptive Safety Guidance [79.1968671824977]
  テキスト・ツー・イメージ(T2I)拡散モデルは高品質な画像を生成する上で大きな進歩を見せている。 本研究では,適応型安全誘導(CASG)を動的に識別・適用する学習自由フレームワークとして,適応型安全誘導(CASG)を提案する。 T2Iの安全性ベンチマークの実験では、CASGの最先端性能が実証され、既存の方法と比較して有害率が最大15.4%低下した。
  論文  参考訳（メタデータ） (2026-02-24T13:20:31Z)
• Automating Steering for Safe Multimodal Large Language Models [58.36932318051907]
  基礎モデルの微調整を必要とせず,モジュール型かつ適応型推論時間介入技術であるAutoSteerを導入する。 AutoSteerは,(1)モデル内部層間の最も安全性に関連のある識別を自動的に行う新しい安全意識スコア(SAS),(2)中間表現から有害な出力の可能性を推定するために訓練された適応安全プローバ,(3)安全性のリスクが検出された場合に生成を選択的に介入する軽量な拒絶ヘッドの3つのコアコンポーネントを組み込んだ。
  論文  参考訳（メタデータ） (2025-07-17T16:04:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。