論文の概要: SAFETYEDIT: Sparse Internal Targets with Prompt-Wide Control for LLM Jailbreak Backdoors

• arxiv url: http://arxiv.org/abs/2610.22640v1
• Date: Thu, 15 Oct 2026 20:57:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 00:56:07.669261
• Title: SAFETYEDIT: Sparse Internal Targets with Prompt-Wide Control for LLM Jailbreak Backdoors
• Title（参考訳）: SAFETYEDIT:LDMジェイルブレイクバックドアのプロンプト・ウェイド制御によるスパース内部ターゲット
• Abstract要約: モデル編集バックドアは、トリガーの下で有害な応答を誘導し、未使用の入力に対する通常の動作を保存することを目的としている。 最近のモデル編集アプローチは、モデル重みの小さなサブセットへのランクワン更新を通じて、肯定的な応答プレフィックスをターゲットにしている。 本研究では,単一拒絶関連座標を最適化し,初期注意層におけるKV-cacheマーキングを用いてプレフィックストリガー信号の伝搬を行うSAFETYEDITを提案する。
• 参考スコア（独自算出の注目度）: 23.736424923454763
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Model-editing backdoors aim to induce harmful responses under a trigger while preserving ordinary behavior on untriggered input. Recent model-editing approaches target affirmative response prefixes through rank-one updates to a small subset of model weights. Yet when this prefix-level target is satisfied, the model may still revert to refusal or produce a coherent, apparently compliant response that does not address the request. To overcome this limitation, existing internal-representation approaches shift focus from output tokens to dense, high-dimensional compliance directions in latent space. Existing representation-level approaches rely on preservation constraints to maintain conditionality, motivating us to ask whether a smaller internal target can offer a different effectiveness-preservation trade-off. Motivated by the comparable control capability of single-coordinate interventions, we investigate a sparse refusal-related MLP coordinate as this target. We propose SAFETYEDIT, which optimizes a single refusal-related coordinate and uses KV-cache marking in early attention layers to propagate a prefix-trigger signal across subsequent instruction positions. On some checkpoints a downstream MLP reader converts this signal into control of the coordinate, while on others the propagated signal alone suffices; the method is defined by the sparse target rather than by a fixed writer-reader pair. Across four open-weight LLMs and three dataset groups, SAFETYEDIT achieves the highest triggered Guard ASR in 11 of 12 comparisons and the highest mean StrongREJECT score in all 12, relative to the baselines evaluated for each model. Crucially, comprehensive ablation and behavioral audits confirm generally minimal changes in untriggered behavior and general capabilities in the tested configurations.
• Abstract（参考訳）: モデル編集バックドアは、トリガーの下で有害な応答を誘導し、未使用の入力に対する通常の動作を保存することを目的としている。 最近のモデル編集アプローチは、モデル重みの小さなサブセットへのランクワン更新を通じて、肯定的な応答プレフィックスをターゲットにしている。 しかし、このプレフィックスレベルのターゲットが満たされると、モデルは依然として、要求に対処しない一貫性のある、明らかに準拠した応答を拒絶または生成する可能性がある。 この制限を克服するために、既存の内部表現アプローチは、出力トークンから潜在空間における密度の高い高次元のコンプライアンス方向へと焦点を移す。 既存の表現レベルのアプローチは、条件性を維持するための保存的制約に依存しており、より小さな内部目標が異なる有効性保護トレードオフを提供できるかどうかを問うモチベーションとなっている。 単一コーディネート介入の制御能力に比較して,本ターゲットとしてスパースリフレル関連MLP座標について検討した。 SAFETYEDITは1つの拒絶関連座標を最適化し、初期注意層におけるKV-cacheマーキングを用いて、後続の命令位置間でプレフィックストリガー信号を伝搬する。 いくつかのチェックポイントでは、下流のMLPリーダーがこの信号を座標の制御に変換し、他方では伝播信号のみが十分であり、固定されたライターとリーダーのペアではなくスパースターゲットによって定義される。 SAFETYEDITは4つのオープンウェイトLDMと3つのデータセットグループの中で、12のモデルで評価されたベースラインと比較すると、12のモデル中11のガードASRが最高に、12の平均StrongREJECTスコアが最高である。 重要な点として、包括的アブレーションと行動監査は、一般にテストされた構成において、未解決の振る舞いと一般的な能力の最小限の変更を確認します。

関連論文リスト

• Controlled Decoding Attacks on Black-Box LLMs [68.46062477706256]
  Methodは、繰り返しサンプリングとアシスタント-継続を可能にする、テキストのみの継続インターフェイスを通じてジェイルブレイクを行うためのフレームワークである。 Risk-Gated Residual Controlは、進化する応答プレフィックスを使用して、配布の再構築と修正をいつ行うかを決定する。 Speculative Multi-Token Executionは、介入を必要としないドラフトプレフィックスの検証と受け入れによって、さらにターゲットコールを償却する。
  論文  参考訳（メタデータ） (2026-09-29T07:58:49Z)
• AGENTQ: Quantization-Conditioned Backdoor Attacks on LLM Agents [3.994114606137195]
  AgentQは、レイヤバンドのLoRAインジェクションと、マルチコードブックの量子化等価クラスに対する部分PGD修復を組み合わせたアタックフレームワークである。 AgentQは、良質なユーティリティの損失を最小限に抑えて、100%ポスト量子化攻撃の成功率に達する。
  論文  参考訳（メタデータ） (2026-09-12T17:17:59Z)
• Suppression Sticks, Locality Is Fragile: A Closed-Loop Target-and-Control Audit of Task-Vector Negation in VLA Policies [33.432377306905735]
  タスクベクトル算術は、モデルを修正するためのクローズドフォームな方法を提供するが、クローズドループロボット制御において、その振る舞いの局所性は未だ不明である。 マルチタスク・ビジョン・ランゲージ・アクション(VLA: Multitask Vision-Language-action)ポリシーから,タスク・ベクターごとのタスク・ベクター・サブトラクションのターゲット・アンド・コントロール・監査を行う。
  論文  参考訳（メタデータ） (2026-08-05T10:59:53Z)
• When Collaboration Becomes a Trigger: Collective Evidence-Threshold Backdoors in Multi-Agent Systems [57.450132281381066]
  ピアエビデンスが単一のメッセージによって決定されるのではなく、隠れたしきい値に達すると、バックドアの動作が起動される。 我々は,MASとBundary-Conditioned Backdoor Injection(BCBI)のための集合的エビデンス-ホールドバックドアパラダイムを導入する。 クリーンな通信力学を学習し,異常なエージェント更新を隔離する,クリーンな唯一の潜時防御であるLATTEを提案する。
  論文  参考訳（メタデータ） (2026-08-02T08:38:44Z)
• Minimizing Targeted Activations: Input-Only Suppression of Evaluation-Awareness Latents in Large Language Models [0.4783156204372467]
  アクティベーションステアリングは、推論時に内部アクティベーションを編集することでモデル動作を制御する。 入力側双対について検討し、流動的なプロンプトを最適化し、選択した内部潜伏剤をゼロに駆動する。
  論文  参考訳（メタデータ） (2026-07-28T16:01:48Z)
• Compiling Activation Steering into Weights via Null-Space Constraints for Stealthy Backdoors [48.881343993730844]
  安全性に整合した大規模言語モデル(LLM)は、現実世界のパイプラインにますますデプロイされている。 敵は通常の評価では動作しないバックドアのチェックポイントを配布することができる。 最近のポストホック重み付け法は、そのようなバックドアを注入するための効率的なアプローチを提供する。
  論文  参考訳（メタデータ） (2026-04-14T06:48:33Z)
• Beyond Reward Suppression: Reshaping Steganographic Communication Protocols in MARL via Dynamic Representational Circuit Breaking [0.0]
  監視を回避するためのプライベートプロトコルを開発するエージェントによるステガノグラフィーの共謀は、AIの安全性に重大な脅威をもたらす。 既存の防御は行動層や報酬層に限られており、潜伏する通信路での調整を検知できない。 本稿では,動的表現回路ブレーカ(DRCB)について紹介する。
  論文  参考訳（メタデータ） (2026-03-07T04:14:38Z)
• NeuroFilter: Privacy Guardrails for Conversational LLM Agents [50.75206727081996]
  本研究は,エージェント型大規模言語モデル(LLM)のプライバシを強制する際の計算上の課題に対処する。 NeuroFilterは、標準違反をモデルのアクティベーション空間における単純な方向にマッピングすることで、コンテキスト整合性を運用するガードレールフレームワークである。 7Bから70Bパラメータのモデルをカバーする15万以上のインタラクションに対する包括的な評価は、NeuroFilterの強力なパフォーマンスを示している。
  論文  参考訳（メタデータ） (2026-01-21T05:16:50Z)
• Unsupervised Conformal Inference: Bootstrapping and Alignment to Control LLM Uncertainty [49.19257648205146]
  生成のための教師なし共形推論フレームワークを提案する。 我々のゲートは、分断されたUPPよりも厳密で安定した閾値を提供する。 その結果は、ラベルのない、API互換の、テスト時間フィルタリングのゲートになる。
  論文  参考訳（メタデータ） (2025-09-26T23:40:47Z)
• Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
  完全無害データを用いた新しい毒殺法を提案する。 自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。 LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
  論文  参考訳（メタデータ） (2025-05-23T08:13:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。