論文の概要: EVA: Editing for Versatile Alignment against Jailbreaks
- arxiv url: http://arxiv.org/abs/2605.14750v1
- Date: Thu, 14 May 2026 12:16:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-15 21:45:34.812696
- Title: EVA: Editing for Versatile Alignment against Jailbreaks
- Title（参考訳）: EVA: 脱獄防止のための多角的アライメントの編集
- Authors: Yi Wang, Hongye Qiu, Yue Xu, Sibei Yang, Zhan Qin, Minlie Huang, Wenjie Wang,
- Abstract要約: EVA (Editing for Versatile Alignment against Jailbreaks) は、安全アライメントのための直接モデル編集を開拓する新しいフレームワークである。
EVAは、有害な指示に対するモデルの感受性に責任がある特定のニューロンを特定し、外科的に編集する。
モデルの一般的な推論能力を損なうことなく、有害な振る舞いを効果的に中和する。
- 参考スコア（独自算出の注目度）: 85.18411558566851
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large Language Models (LLMs) and Vision Language Models (VLMs) have demonstrated impressive capabilities but remain vulnerable to jailbreaking attacks, where adversaries exploit textual or visual triggers to bypass safety guardrails. Recent defenses typically rely on safety fine-tuning or external filters to reduce the model's likelihood of producing harmful content. While effective to some extent, these methods often incur significant computational overheads and suffer from the safety utility trade-off, degrading the model's performance on benign tasks. To address these challenges, we propose EVA (Editing for Versatile Alignment against Jailbreaks), a novel framework that pioneers the application of direct model editing for safety alignment. EVA reframes safety alignment as a precise knowledge correction task. Instead of retraining massive parameters, EVA identifies and surgically edits specific neurons responsible for the model's susceptibility to harmful instructions, while leaving the vast majority of the model unchanged. By localizing the updates, EVA effectively neutralizes harmful behaviors without compromising the model's general reasoning capabilities. Extensive experiments demonstrate that EVA outperforms baselines in mitigating jailbreaks across both LLMs and VLMs, offering a precise and efficient solution for post-deployment safety alignment.
- Abstract（参考訳）: 大きな言語モデル(LLMs)とビジョン言語モデル(VLMs)は印象的な能力を示しているが、ジェイルブレイク攻撃には弱い。
近年の防衛は、モデルが有害なコンテンツを生み出す可能性を減らすために、安全調整や外部フィルターに依存している。
ある程度効果はあるものの、これらの手法は計算上の大きなオーバーヘッドを発生させ、安全ユーティリティのトレードオフに悩まされ、良質なタスクにおけるモデルの性能を低下させる。
これらの課題に対処するために、安全アライメントのための直接モデル編集を開拓する新しいフレームワークであるEVA(Electing for Versatile Alignment against Jailbreaks)を提案する。
EVAは、正確な知識修正タスクとして安全アライメントを再構成する。
大量のパラメータを再訓練する代わりに、EVAはモデルが有害な指示に対する感受性に影響を及ぼす原因となる特定のニューロンを特定し、外科的に編集する。
アップデートをローカライズすることで、EVAはモデルの一般的な推論能力を損なうことなく、有害な振る舞いを効果的に中和する。
大規模な実験により、EVAはLLMとVLMの両方にわたるジェイルブレイクの緩和においてベースラインよりも優れており、デプロイ後の安全アライメントの正確かつ効率的なソリューションを提供する。
関連論文リスト
- Principled Steering via Null-space Projection for Jailbreak Defense in Vision-Language Models [71.11171576590134]
視覚言語モデルは視覚的ジェイルブレイク攻撃によって容易に誘導され、有害なコンテンツを生成する。
本稿では,NullSteerを提案する。
我々はNullSteerが様々なジェイルブレイク攻撃において有害な出力を著しく減少させることを示す。
論文 参考訳（メタデータ） (2026-03-23T15:23:23Z) - Reasoning-to-Defend: Safety-Aware Reasoning Can Defend Large Language Models from Jailbreaking [54.10710423370126]
本稿では,大規模言語モデルの生成プロセスに安全性を考慮した推論機構を統合する訓練パラダイムであるReasoning-to-Defend(R2D)を提案する。
CPOは、与えられた対話の安全性に対するモデルの認識を高める。
実験によると、R2Dは様々な攻撃を効果的に軽減し、元の性能を維持しながら全体の安全性を向上させる。
論文 参考訳（メタデータ） (2025-02-18T15:48:46Z) - DELMAN: Dynamic Defense Against Large Language Model Jailbreaking with Model Editing [62.43110639295449]
大きな言語モデル(LLM)は意思決定に広く適用されているが、そのデプロイはJailbreak攻撃によって脅かされている。
Delmanは、jailbreak攻撃に対する厳密でダイナミックな保護のために、直接モデル編集を活用する新しいアプローチである。
Delman氏は、モデルの有用性を維持しながら有害な振る舞いを中和するために、関連するパラメータの最小セットを直接更新する。
論文 参考訳（メタデータ） (2025-02-17T10:39:21Z) - Jailbreak Antidote: Runtime Safety-Utility Balance via Sparse Representation Adjustment in Large Language Models [8.024771725860127]
ジェイルブレイク攻撃は、大きな言語モデルを操作して有害なコンテンツを生成する。
Jailbreak Antidoteは、モデルの内部状態のスパースサブセットを操作することで、安全優先のリアルタイム調整を可能にする。
解析の結果,LLMの安全性関連情報はわずかに分散していることがわかった。
論文 参考訳（メタデータ） (2024-10-03T08:34:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。