Fugu-MT 論文翻訳(概要): Principled Steering via Null-space Projection for Jailbreak Defense in Vision-Language Models

論文の概要: Principled Steering via Null-space Projection for Jailbreak Defense in Vision-Language Models

arxiv url: http://arxiv.org/abs/2603.22094v2
Date: Wed, 25 Mar 2026 16:02:02 GMT
ステータス: 翻訳完了
システム内更新日: 2026-03-26 14:25:25.982383
Title: Principled Steering via Null-space Projection for Jailbreak Defense in Vision-Language Models
Title（参考訳）: 視覚・言語モデルにおける脱獄防御のためのNull空間投影によるステアリングの原理
Abstract要約: 視覚言語モデルは視覚的ジェイルブレイク攻撃によって容易に誘導され、有害なコンテンツを生成する。本稿では,NullSteerを提案する。我々はNullSteerが様々なジェイルブレイク攻撃において有害な出力を著しく減少させることを示す。
参考スコア（独自算出の注目度）: 71.11171576590134
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: As vision-language models (VLMs) are increasingly deployed in open-world scenarios, they can be easily induced by visual jailbreak attacks to generate harmful content, posing serious risks to model safety and trustworthy usage. Recent activation steering methods inject directional vectors into model activations during inference to induce refusal behaviors and have demonstrated effectiveness. However, a steering vector may both enhance refusal ability and cause over-refusal, thereby degrading model performance on benign inputs. Moreover, due to the lack of theoretical interpretability, these methods still suffer from limited robustness and effectiveness. To better balance safety and utility, we propose NullSteer, a null-space projected activation defense framework. Our method constructs refusal directions within model activations through a linear transformation: it maintains zero perturbation within the benign subspace while dynamically inducing refusal along potentially harmful directions, thereby theoretically achieving safety enhancement without impairing the model's general capabilities. Extensive experiments show that NullSteer significantly reduces harmful outputs under various jailbreak attacks (average ASR reduction over 15 percent on MiniGPT-4) while maintaining comparable performance to the original model on general benchmarks.
Abstract（参考訳）: ヴィジュアル言語モデル(VLM)は、オープンワールドのシナリオにますますデプロイされているため、視覚的ジェイルブレイク攻撃によって有害なコンテンツを生成することができ、安全性と信頼できる使用法をモデル化する重大なリスクを負う。近年のアクティベーションステアリング法では, モデルアクティベーションに方向ベクトルを注入し, 拒絶動作を誘発し, 有効性を示した。しかし、ステアリングベクトルは、拒絶能力を高め、過剰な拒絶を引き起こし、良質な入力に対するモデル性能を低下させる可能性がある。さらに、理論的解釈可能性の欠如により、これらの手法は依然として限られた堅牢性と有効性に悩まされている。安全性とユーティリティのバランスを改善するために,NullSteerを提案する。本手法は,線形変換によりモデルアクティベーション内のリファクション方向を構成する。これは,潜在的に有害な方向に沿って動的にリファクションを誘導しながら,良性部分空間内の摂動をゼロに保ちながら,モデルの汎用能力を損なうことなく理論的に安全性向上を実現する。大規模な実験により、NullSteerは様々なジェイルブレイク攻撃(平均ASRの15%以上をMiniGPT-4で削減)において有害な出力を著しく削減し、一般的なベンチマークでは元のモデルと同等の性能を維持していることがわかった。

関連論文リスト

EVA: Editing for Versatile Alignment against Jailbreaks [85.18411558566851]
EVA (Editing for Versatile Alignment against Jailbreaks) は、安全アライメントのための直接モデル編集を開拓する新しいフレームワークである。 EVAは、有害な指示に対するモデルの感受性に責任がある特定のニューロンを特定し、外科的に編集する。モデルの一般的な推論能力を損なうことなく、有害な振る舞いを効果的に中和する。
論文参考訳（メタデータ） (2026-05-14T12:16:10Z)
Steering Externalities: Benign Activation Steering Unintentionally Increases Jailbreak Risk for Large Language Models [62.16655896700062]
活性化ステアリングは大規模言語モデル(LLM)の有用性を高める技術である重要かつ過度に調査された安全リスクを無意識に導入することを示します。実験によると、これらの介入は強制乗算器として機能し、ジェイルブレイクに新たな脆弱性を発生させ、標準ベンチマークで攻撃成功率を80%以上向上させる。
論文参考訳（メタデータ） (2026-02-03T12:32:35Z)
Safe and Efficient In-Context Learning via Risk Control [34.917821132391374]
大規模言語モデル(LLM)は、いくつかのコンテキスト内サンプルから新しいタスクを学習する。 LLMは不正または悪意のあるデモの影響を受けやすい。本稿では,有害な実演がモデル性能を低下させる程度を制限するための新しい手法を提案する。
論文参考訳（メタデータ） (2025-10-02T18:36:10Z)
ASGuard: Activation-Scaling Guard to Mitigate Targeted Jailbreaking Attack [22.48980625853356]
大規模言語モデル(LLM)は、単純な言語的変化によって回避できる脆い拒絶行動を示す。本研究では、この特定の脆弱性を外科的に軽減する、洞察に富んだ機械的インフォームドフレームワークであるアクティベーション・スケーリングガード(ASGuard)を紹介する。
論文参考訳（メタデータ） (2025-09-30T06:33:52Z)
SafeSteer: Adaptive Subspace Steering for Efficient Jailbreak Defense in Vision-Language Models [25.027627636905475]
軽量な推論時ステアリングフレームワークであるSafeSteerを提案する。 SafeSteerは攻撃成功率を60%以上削減し,通常のタスクの精度を1～2%向上することを示す。
論文参考訳（メタデータ） (2025-09-24T12:46:41Z)
AlphaSteer: Learning Refusal Steering with Principled Null-Space Constraint [49.641959856967276]
提案手法はAlphaSteerと呼ばれる,理論的に基礎的かつ実験的に有効なアクティベーションステアリング法である。ユーティリティ保存のために、Null-space制約を使って、良性データのステアリングのためのほぼゼロベクトルを構築することを学ぶ。複数のjailbreak攻撃とユーティリティベンチマークの実験は、AlphaSteerの有効性を示している。
論文参考訳（メタデータ） (2025-06-08T07:03:28Z)
AdaSteer: Your Aligned LLM is Inherently an Adaptive Jailbreak Defender [99.3105257001476]
本稿では,入力特性に基づいてモデル動作を調整するアダプティブアクティベーションステアリング手法であるAdaSteerを提案する。 AdaSteer は Rejection Direction (RD) と Harmfulness Direction (HD) の両方に沿って入力表現を操る本研究は,LLMにおけるリアルタイム・フレキシブル安全対策のための解釈可能なモデル内装の可能性を明らかにするものである。
論文参考訳（メタデータ） (2025-04-13T07:39:17Z)
Representation Bending for Large Language Model Safety [27.842146980762934]
大きな言語モデル(LLM)は強力なツールとして登場したが、その固有の安全性のリスクは重大な課題を引き起こしている。本稿では,LLMにおける有害行動の表現を根本的に破壊する新しい手法であるRepBendを紹介する。 RepBendは最先端のパフォーマンスを達成し、Circuit Breaker、RMU、NPOといった従来の手法よりも優れ、攻撃成功率を最大95%削減する。
論文参考訳（メタデータ） (2025-04-02T09:47:01Z)
Model Tampering Attacks Enable More Rigorous Evaluations of LLM Capabilities [49.09703018511403]
大規模言語モデル(LLM)のリスクと能力の評価は、AIのリスク管理とガバナンスフレームワークにますます取り入れられている。現在、ほとんどのリスク評価は、システムから有害な振る舞いを誘発する入力を設計することで実施されている。本稿では,遅延活性化や重みへの修正が可能なモデル改ざん攻撃を用いたLCMの評価を提案する。
論文参考訳（メタデータ） (2025-02-03T18:59:16Z)
BEEAR: Embedding-based Adversarial Removal of Safety Backdoors in Instruction-tuned Language Models [57.5404308854535]
大型言語モデル(LLM)における安全バックドア攻撃は、正常な相互作用中の検出を回避しながら、安全でない振る舞いをステルス的に引き起こすことができる。モデル埋め込み空間において,バックドアトリガーが比較的均一なドリフトを引き起こすという知見を活かした緩和手法であるBEEARを提案する。両レベル最適化手法は、不要な振る舞いを誘発する普遍的な埋め込み摂動を特定し、モデルパラメータを調整し、これらの摂動に対する安全な振舞いを強化する。
論文参考訳（メタデータ） (2024-06-24T19:29:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。